1
00:00:02,000 --> 00:00:07,000
下载自
YTS.MX
2
00:00:08,000 --> 00:00:13,000
YIFY 电影官方网站：
YTS.MX
3
00:00:15,849 --> 00:00:17,934
[诡异的器乐演奏]
4
00:00:31,114 --> 00:00:34,659
[采访者]你为什么不继续呢？
坐下来看看你是否能感到舒服。
5
00:00:37,579 --> 00:00:39,789
-你好吗？好的。
-是的。 [呼气]
6
00:00:39,914 --> 00:00:42,125
- [采访者] 嗯...
-【手机震动】
7
00:00:43,043 --> 00:00:44,794
[船员]拿一张，记号笔。
8
00:00:46,796 --> 00:00:48,798
[采访者]想开始
通过自我介绍？
9
00:00:48,882 --> 00:00:49,799
[机组人员咳嗽]
10
00:00:50,467 --> 00:00:53,344
你好，世界。贝利。拿三个。
11
00:00:53,970 --> 00:00:56,347
- [采访者] 你还好吗？
-这是最糟糕的部分，伙计。
12
00:00:56,890 --> 00:00:59,517
[笑]我不喜欢这样。
13
00:00:59,851 --> 00:01:02,228
我于 2011 年和 2012 年在 Facebook 工作。
14
00:01:02,312 --> 00:01:05,190
我是最早的员工之一
在 Instagram 上。
15
00:01:05,273 --> 00:01:08,693
[man 1]我在，呃，Google 工作
呃，YouTube。
16
00:01:08,777 --> 00:01:11,696
[女性]苹果、谷歌、Twitter、Palm。
17
00:01:12,739 --> 00:01:15,533
我帮助创办了 Mozilla 实验室
并切换到Firefox端。
18
00:01:15,617 --> 00:01:18,119
-[采访者]我们在滚动吗？大家呢？
-【剧组成员回复】
19
00:01:18,203 --> 00:01:19,162
[采访者] 太好了。
20
00:01:21,206 --> 00:01:22,624
[man 2] 我在 Twitter 工作。
21
00:01:23,041 --> 00:01:23,917
我在那里的最后一份工作
22
00:01:24,000 --> 00:01:26,169
曾任高级副总裁
工程的。
23
00:01:27,337 --> 00:01:29,255
-[man 3] 我是 Pinterest 的总裁。
-[啜饮]
24
00:01:29,339 --> 00:01:32,717
在那之前，嗯，
我是...货币化总监
25
00:01:32,801 --> 00:01:34,260
在 Facebook 工作了五年。
26
00:01:34,344 --> 00:01:37,972
在 Twitter 期间，我花了很多钱
运行他们的开发者平台多年，
27
00:01:38,056 --> 00:01:40,225
然后我就变成了
消费品主管。
28
00:01:40,308 --> 00:01:44,270
我是 Google 云端硬盘的共同发明人，
Gmail 聊天，
29
00:01:44,354 --> 00:01:46,689
脸书页面，
和 Facebook 点赞按钮。
30
00:01:47,440 --> 00:01:50,777
是的。这就是...这就是我花费的原因，
比如，八个月
31
00:01:50,860 --> 00:01:52,779
与律师来回交谈。
32
00:01:54,072 --> 00:01:55,406
这让我很害怕。
33
00:01:58,409 --> 00:01:59,702
[男人2] 当我在那里的时候，
34
00:01:59,786 --> 00:02:02,914
我总觉得，
从根本上来说，它是一股向善的力量。
35
00:02:03,414 --> 00:02:05,375
我不知道我是否还有这样的感觉。
36
00:02:05,458 --> 00:02:10,588
我于 2017 年 6 月离开 Google，呃，
由于道德问题。
37
00:02:10,672 --> 00:02:14,134
而且……不仅仅是在谷歌
但在整个行业内。
38
00:02:14,217 --> 00:02:15,385
我很担心。
39
00:02:16,636 --> 00:02:17,679
我很担心。
40
00:02:19,097 --> 00:02:21,808
今天很容易忽视这个事实
41
00:02:21,891 --> 00:02:27,814
这些工具实际上已经创建了
世界上一些奇妙的事情。
42
00:02:27,897 --> 00:02:31,943
他们与失去的家人团聚了。
他们找到了器官捐献者。
43
00:02:32,026 --> 00:02:36,573
我的意思是，有有意义的，
系统性变化正在发生
44
00:02:36,656 --> 00:02:39,159
世界各地
因为这些平台
45
00:02:39,242 --> 00:02:40,285
这是积极的！
46
00:02:40,827 --> 00:02:44,539
我认为我们很天真
关于硬币的反面。
47
00:02:45,540 --> 00:02:48,585
是的，这些东西，你释放它们，
他们开始了自己的生活。
48
00:02:48,668 --> 00:02:52,005
它们的使用方式也有很大不同
比你预期的要好。
49
00:02:52,088 --> 00:02:56,509
我深信，没有人，
曾经想过任何这些后果。
50
00:02:56,593 --> 00:02:59,554
没有一个坏人。
不，绝对不。
51
00:03:01,598 --> 00:03:03,975
[采访者]那么，
这……有什么问题吗？
52
00:03:09,147 --> 00:03:11,482
【采访者】有什么问题吗？
问题是什么？
53
00:03:12,108 --> 00:03:13,026
[燕子]
54
00:03:17,614 --> 00:03:19,991
[咂舌] 是啊，很难
给出一个单一的、简洁的...
55
00:03:20,074 --> 00:03:22,118
我正在尝试触及
许多不同的问题。
56
00:03:22,535 --> 00:03:23,953
【采访者】问题出在哪里？
57
00:03:24,621 --> 00:03:25,914
[咔嚓舌头，轻笑]
58
00:03:27,916 --> 00:03:29,500
[鸟儿歌唱]
59
00:03:31,169 --> 00:03:32,670
[远处的狗叫声]
60
00:03:33,463 --> 00:03:35,340
【记者1】
尽管面临越来越多的批评，
61
00:03:35,423 --> 00:03:37,675
所谓的大型科技公司
变得越来越大。
62
00:03:37,759 --> 00:03:40,929
整个科技行业
受到新级别的审查。
63
00:03:41,012 --> 00:03:43,806
一项新的研究揭示了其中的联系
64
00:03:43,890 --> 00:03:46,142
心理健康之间
和社交媒体的使用。
65
00:03:46,226 --> 00:03:48,686
[在电视上]
在这里谈谈最新的研究......
66
00:03:48,770 --> 00:03:51,397
[塔克·卡尔森]...正在发生
根本没有报道。
67
00:03:51,481 --> 00:03:54,108
数千万美国人
无可救药地上瘾
68
00:03:54,192 --> 00:03:56,319
他们的电子设备。
69
00:03:56,402 --> 00:03:57,987
[记者 2]事实加剧了这种情况
70
00:03:58,071 --> 00:04:00,698
你可以真正孤立自己
现在
71
00:04:00,782 --> 00:04:02,742
感谢我们的技术，在泡沫中。
72
00:04:02,825 --> 00:04:04,577
假新闻变得越来越先进
73
00:04:04,661 --> 00:04:06,788
并威胁社会
世界各地。
74
00:04:06,871 --> 00:04:10,250
我们没有预料到这一切
当我们 12 年前创建 Twitter 时。
75
00:04:10,333 --> 00:04:12,502
白宫官员称
他们没有理由相信
76
00:04:12,585 --> 00:04:14,754
俄罗斯的网络攻击将会停止。
77
00:04:14,837 --> 00:04:18,132
YouTube 被逼了
集中精力清理现场。
78
00:04:18,216 --> 00:04:21,552
[记者3] TikTok，
如果你和任何一个青少年交谈......
79
00:04:21,636 --> 00:04:24,013
[在电视上]...没有机会
他们会删除这个东西...
80
00:04:24,097 --> 00:04:26,224
嘿，艾拉，
请把桌子准备好好吗？
81
00:04:26,307 --> 00:04:28,601
[记者4]有一个问题
关于是否社交媒体
82
00:04:28,685 --> 00:04:29,978
让您的孩子感到沮丧。
83
00:04:30,061 --> 00:04:32,105
[妈妈]艾拉，
请你摆一下桌子好吗？
84
00:04:32,188 --> 00:04:35,316
[记者5]这些整容手术
越来越受青少年欢迎，
85
00:04:35,400 --> 00:04:37,902
整形外科医生创造了
一种新的综合症，
86
00:04:37,986 --> 00:04:40,822
“Snapchat 畸形”
想要手术的年轻患者
87
00:04:40,905 --> 00:04:43,741
这样他们就可以看起来更像他们的样子
在经过过滤的自拍照中。
88
00:04:43,825 --> 00:04:45,910
还是不明白你为什么让她拥有
那件事。
89
00:04:45,994 --> 00:04:47,412
我应该做什么？
90
00:04:47,495 --> 00:04:49,580
我的意思是，其他每个孩子
她的班上有一个。
91
00:04:50,164 --> 00:04:51,165
她只有11岁。
92
00:04:51,249 --> 00:04:52,959
卡斯，没有人强迫你去买一个。
93
00:04:53,042 --> 00:04:55,086
您可以保持断开连接
只要你愿意。
94
00:04:55,169 --> 00:04:59,340
嘿，我不用手机就可以连接，
好吗？我现在正在互联网上。
95
00:04:59,424 --> 00:05:03,094
而且，这甚至不是实际的连接。
这只是一堆废话——
96
00:05:03,177 --> 00:05:05,013
监控资本主义已经成型
97
00:05:05,096 --> 00:05:07,765
我们的政治和文化
以许多人没有意识到的方式。
98
00:05:07,849 --> 00:05:10,101
【记者6】
ISIS 在网上激发了追随者，
99
00:05:10,184 --> 00:05:12,812
现在是白人至上主义者
也在做同样的事情。
100
00:05:12,895 --> 00:05:14,147
最近在印度，
101
00:05:14,230 --> 00:05:17,442
网络私刑暴徒已被杀害
十几个人，包括这五个人……
102
00:05:17,525 --> 00:05:20,361
[记者 7] 这不仅仅是假新闻；
这是有后果的假新闻。
103
00:05:20,445 --> 00:05:24,073
[记者8]如何应对疫情
在假新闻时代？
104
00:05:24,157 --> 00:05:26,993
你会感染冠状病毒吗
通过吃中国菜？
105
00:05:27,535 --> 00:05:32,540
我们已经脱离了信息时代
进入虚假信息时代。
106
00:05:32,623 --> 00:05:34,667
我们的民主正在受到攻击。
107
00:05:34,751 --> 00:05:36,919
[男人4]我所说的是，
“我认为工具
108
00:05:37,003 --> 00:05:39,005
今天创建的内容正在开始
109
00:05:39,088 --> 00:05:41,799
侵蚀社会结构
社会如何运作。”
110
00:05:41,883 --> 00:05:44,427
[诡异的器乐继续]
111
00:05:55,980 --> 00:05:58,483
-[音乐渐弱]
-[含糊不清的喋喋不休]
112
00:05:58,566 --> 00:05:59,442
[机组人员] 好的。
113
00:06:00,151 --> 00:06:03,446
[舞台监督]阿扎确实
欢迎致辞。我们播放视频。
114
00:06:04,197 --> 00:06:07,325
然后，“女士们先生们，
特里斯坦·哈里斯。”
115
00:06:07,408 --> 00:06:08,868
-正确的。
- [舞台经理] 太棒了。
116
00:06:08,951 --> 00:06:12,038
所以，我上来了，然后...
117
00:06:13,831 --> 00:06:17,126
基本上就是说“谢谢大家的到来”。
嗯...
118
00:06:17,919 --> 00:06:22,048
所以今天我想谈谈一个新议程
为了技术。
119
00:06:22,131 --> 00:06:25,468
以及我们为什么要这么做
因为如果你问别人
120
00:06:25,551 --> 00:06:27,804
“科技行业出了什么问题
现在？”
121
00:06:28,262 --> 00:06:31,641
一片怨声载道
和丑闻，
122
00:06:31,724 --> 00:06:33,893
和“他们窃取了我们的数据。”
还有科技成瘾。
123
00:06:33,976 --> 00:06:35,978
而且还有假消息。
还有两极分化
124
00:06:36,062 --> 00:06:37,855
和一些选举
正在被黑客攻击。
125
00:06:38,189 --> 00:06:41,609
但有没有什么
这就是所有这些问题背后的原因
126
00:06:41,692 --> 00:06:44,612
这就是造成所有这些事情的原因
立即发生？
127
00:06:44,821 --> 00:06:46,364
[舞台监督含糊其辞]
128
00:06:46,447 --> 00:06:48,408
-这感觉好吗？
-非常好。是的。
129
00:06:49,033 --> 00:06:49,992
嗯...[叹气]
130
00:06:50,743 --> 00:06:52,954
我只是想...
就像，我想让人们看到...
131
00:06:53,037 --> 00:06:55,123
比如，出现问题了
在科技行业，
132
00:06:55,206 --> 00:06:56,707
而且它没有名字
133
00:06:56,791 --> 00:07:00,211
它与一个来源有关，
比如，一个...
134
00:07:00,795 --> 00:07:03,589
[诡异的器乐演奏]
135
00:07:05,091 --> 00:07:09,387
[特里斯坦]当你环顾四周时，
感觉世界都快疯了。
136
00:07:12,765 --> 00:07:15,309
你必须问自己，比如，
“这正常吗？
137
00:07:16,102 --> 00:07:18,771
或者我们都陷入了某种困境
咒语？”
138
00:07:27,989 --> 00:07:30,491
希望更多的人能够理解
这是如何运作的
139
00:07:30,575 --> 00:07:34,036
因为它不应该是某事
只有科技行业知道。
140
00:07:34,120 --> 00:07:36,247
应该是某事
每个人都知道。
141
00:07:36,330 --> 00:07:38,708
[背包拉链]
142
00:07:41,419 --> 00:07:42,378
[轻声]再见。
143
00:07:43,629 --> 00:07:44,881
[警卫] 给你，先生。
144
00:07:47,383 --> 00:07:48,676
- [员工] 您好！
-[特里斯坦]嗨。
145
00:07:48,759 --> 00:07:50,678
-特里斯坦。很高兴见到你。
-这是 Tris-tan，对吗？
146
00:07:50,761 --> 00:07:51,721
-是的。
-惊人的。凉爽的。
147
00:07:53,181 --> 00:07:55,933
[主持人]特里斯坦·哈里斯
是谷歌前设计伦理学家
148
00:07:56,017 --> 00:07:59,395
并被称为最接近的东西
硅谷要有良心。
149
00:07:59,479 --> 00:08:00,730
[记者]他在问技术
150
00:08:00,813 --> 00:08:04,192
带来他所谓的“道德设计”
其产品。
151
00:08:04,275 --> 00:08:06,903
[安德森·库珀]这很罕见
对于一个技术内部人士来说如此直言不讳，
152
00:08:06,986 --> 00:08:10,114
但特里斯坦·哈里斯相信
需要有人。
153
00:08:11,324 --> 00:08:12,700
[特里斯坦]当我在谷歌时，
154
00:08:12,783 --> 00:08:16,037
我是 Gmail 团队的成员，
我刚刚开始精疲力竭
155
00:08:16,120 --> 00:08:18,372
因为我们有过
这么多对话关于...
156
00:08:19,457 --> 00:08:23,169
你知道收件箱应该是什么样子
它应该是什么颜色，以及......
157
00:08:23,252 --> 00:08:25,880
你知道，我个人感觉上瘾了
发送至电子邮件，
158
00:08:26,297 --> 00:08:27,632
我发现它很有趣
159
00:08:27,715 --> 00:08:31,511
Gmail 没有人在工作
减少上瘾。
160
00:08:31,969 --> 00:08:34,514
我当时想，
“还有其他人在考虑这个问题吗？
161
00:08:34,597 --> 00:08:36,390
我没有听到任何人谈论过这个。”
162
00:08:36,849 --> 00:08:39,685
-我感到了这种挫败感......
-[叹气]
163
00:08:39,769 --> 00:08:41,229
...总体而言，科技行业
164
00:08:41,312 --> 00:08:43,147
我们有点像迷失了方向。
165
00:08:43,231 --> 00:08:46,442
-[不祥的器乐演奏]
-[消息提醒响起]
166
00:08:46,817 --> 00:08:49,820
[特里斯坦]你知道，我真的很挣扎
尝试找出
167
00:08:49,904 --> 00:08:52,573
我们如何从内部改变它。
168
00:08:52,907 --> 00:08:55,117
【充满活力的钢琴曲演奏】
169
00:08:55,201 --> 00:08:58,120
[特里斯坦] 就在那时我决定
进行演示，
170
00:08:58,204 --> 00:08:59,497
有点像是战斗的号角。
171
00:09:00,998 --> 00:09:04,961
每天我回家后就开始工作
每晚几个小时。
172
00:09:05,044 --> 00:09:06,087
[打字]
173
00:09:06,170 --> 00:09:08,548
[特里斯坦]它基本上只是说，
你知道，
174
00:09:08,631 --> 00:09:11,884
以前从未有过
历史上有50位设计师——
175
00:09:12,426 --> 00:09:15,263
20至35岁的白人男性
在加利福尼亚州——
176
00:09:15,888 --> 00:09:19,725
做出了会产生影响的决定
20 亿人。
177
00:09:21,018 --> 00:09:24,438
二十亿人会有想法
他们并不打算拥有
178
00:09:24,522 --> 00:09:28,401
因为谷歌的一位设计师说，
“这就是通知的工作原理
179
00:09:28,484 --> 00:09:30,778
在你醒来看到的屏幕上
早上。”
180
00:09:31,195 --> 00:09:35,283
我们有道义责任，
作为谷歌，为了解决这个问题。
181
00:09:36,075 --> 00:09:37,743
我发送了这个演示文稿
182
00:09:37,827 --> 00:09:41,789
大约 15、20 位我最亲密的同事
在谷歌，
183
00:09:41,872 --> 00:09:44,959
我对此非常紧张。
我不确定它会如何着陆。
184
00:09:46,460 --> 00:09:48,045
第二天去上班的时候，
185
00:09:48,129 --> 00:09:50,464
大多数笔记本电脑
演示文稿已打开。
186
00:09:52,133 --> 00:09:54,552
那天晚些时候，有，比如，
400 名同时观看者，
187
00:09:54,635 --> 00:09:56,053
所以它一直在不断增长。
188
00:09:56,137 --> 00:10:00,266
我收到了来自公司各处的电子邮件。
我的意思是，每个部门的人都说，
189
00:10:00,349 --> 00:10:02,852
“我完全同意。”
“我看到这会影响我的孩子。”
190
00:10:02,935 --> 00:10:04,979
“我认为这会影响
我周围的人。”
191
00:10:05,062 --> 00:10:06,939
“我们必须对此做点什么。”
192
00:10:07,481 --> 00:10:10,818
感觉就像我正在启动
一场革命或类似的事情。
193
00:10:11,861 --> 00:10:15,197
后来我发现拉里·佩奇
已收到有关此演示的通知
194
00:10:15,281 --> 00:10:17,908
- 当天举行了三个单独的会议。
-[含糊不清的喋喋不休]
195
00:10:17,992 --> 00:10:20,286
[特里斯坦]所以，它创造了
这种文化时刻
196
00:10:20,870 --> 00:10:24,415
-谷歌需要认真对待。
-[嘶嘶]
197
00:10:26,000 --> 00:10:28,878
-[特里斯坦]然后……什么也没有。
-[嘶嘶声消失]
198
00:10:32,673 --> 00:10:34,216
【消息提醒响起】
199
00:10:34,300 --> 00:10:36,135
[蒂姆] 2006 年的每个人......
200
00:10:37,219 --> 00:10:39,221
包括 Facebook 的所有人，
201
00:10:39,305 --> 00:10:43,392
刚刚对谷歌充满了钦佩
以及谷歌所构建的，
202
00:10:43,476 --> 00:10:47,396
这是一项非常有用的服务
203
00:10:47,480 --> 00:10:51,442
据我们所知，
为世界带来许多美好，
204
00:10:51,525 --> 00:10:54,695
他们建造了
这个平行的赚钱机器。
205
00:10:55,404 --> 00:11:00,034
我们对此非常羡慕，
对我们来说它看起来很优雅......
206
00:11:00,826 --> 00:11:02,161
如此完美。
207
00:11:02,953 --> 00:11:05,289
Facebook 已经存在
大约两年的时间里，
208
00:11:05,373 --> 00:11:08,376
嗯，我被雇来了
并弄清楚
209
00:11:08,459 --> 00:11:10,586
商业模式将会是什么
为公司。
210
00:11:10,670 --> 00:11:13,422
我是货币化总监。
重点是，就像，
211
00:11:13,506 --> 00:11:17,051
“你是那个会弄清楚的人
这东西如何盈利。”
212
00:11:17,134 --> 00:11:19,804
而且还有很多人
谁做了很多工作，
213
00:11:19,887 --> 00:11:25,476
但我显然是其中之一
谁指着……
214
00:11:26,769 --> 00:11:28,562
“好吧，我们必须赚钱，A...
215
00:11:29,313 --> 00:11:33,651
我认为这个广告模式
可能是最优雅的方式。
216
00:11:36,278 --> 00:11:38,280
【明亮的器乐演奏】
217
00:11:42,243 --> 00:11:44,370
呃哦。妈妈刚刚发给我们的视频是什么？
218
00:11:44,453 --> 00:11:46,747
哦，这是脱口秀节目里的
但这很好。
219
00:11:46,831 --> 00:11:47,873
盖伊真是个天才。
220
00:11:47,957 --> 00:11:50,584
他说的都是删除
社交媒体，你必须这样做。
221
00:11:50,668 --> 00:11:52,878
我可能不得不开始阻止
她的电子邮件。
222
00:11:52,962 --> 00:11:54,880
我什至不知道
她在说什么，伙计。
223
00:11:54,964 --> 00:11:56,090
她比我还糟糕。
224
00:11:56,173 --> 00:11:58,509
-不，她只用它来做食谱。
-对了，工作。
225
00:11:58,592 --> 00:12:00,553
-还有锻炼视频。
-[家伙]并检查我们。
226
00:12:00,636 --> 00:12:03,055
还有她见过的所有人
在她的一生中。
227
00:12:04,932 --> 00:12:07,893
如果您正在滚动浏览
您的社交媒体动态
228
00:12:07,977 --> 00:12:11,731
当您观看我们时，您需要投入
该死的电话放下来听
229
00:12:11,814 --> 00:12:14,817
因为我们的下一位客人写了
一本令人难以置信的书
230
00:12:14,900 --> 00:12:18,112
它对我们的生活造成了多大的破坏。
231
00:12:18,195 --> 00:12:19,447
欢迎作者
232
00:12:19,530 --> 00:12:23,951
十个删除参数
您现在的社交媒体帐户...
233
00:12:24,034 --> 00:12:26,287
-[Sunny Hostin] 嗯嗯。
-...杰伦·拉尼尔。
234
00:12:26,370 --> 00:12:27,913
[主持人说话含糊不清]
235
00:12:27,997 --> 00:12:31,834
[Jaron] Google 和 Facebook 等公司
是一些最富有的人
236
00:12:31,917 --> 00:12:33,544
也是有史以来最成功的。
237
00:12:33,711 --> 00:12:36,839
呃，他们的员工比较少。
238
00:12:36,922 --> 00:12:41,427
他们只有这台巨型计算机
这样就能赚到钱了，对吧？呃...
239
00:12:41,510 --> 00:12:42,970
现在，他们的报酬是什么？
240
00:12:43,053 --> 00:12:45,222
[笑声]
这是一个非常重要的问题。
241
00:12:47,308 --> 00:12:50,311
[罗杰]所以，我一直是投资者
从事技术工作 35 年。
242
00:12:51,020 --> 00:12:54,356
硅谷的第一个50年，
工业制造的产品——
243
00:12:54,440 --> 00:12:55,566
硬件、软件——
244
00:12:55,649 --> 00:12:58,402
把它们卖给顾客。
生意不错，简单。
245
00:12:58,486 --> 00:13:01,447
在过去的十年里，
硅谷最大的公司
246
00:13:01,530 --> 00:13:03,866
曾从事过生意
出售他们的用户。
247
00:13:03,949 --> 00:13:05,910
现在说起来有点老套了
248
00:13:05,993 --> 00:13:09,205
但是...因为我们不付钱
对于我们使用的产品，
249
00:13:09,288 --> 00:13:12,166
广告商付费
对于我们使用的产品。
250
00:13:12,249 --> 00:13:14,210
广告商就是顾客。
251
00:13:14,710 --> 00:13:16,086
我们就是被出售的东西。
252
00:13:16,170 --> 00:13:17,630
经典的说法是：
253
00:13:17,713 --> 00:13:21,592
“如果你不支付产品费用，
那么你就是产品。”
254
00:13:23,385 --> 00:13:27,223
很多人认为，你知道，
“哦，好吧，谷歌只是一个搜索框，
255
00:13:27,306 --> 00:13:29,850
Facebook 只是一个查看的地方
我的朋友们在做什么
256
00:13:29,934 --> 00:13:31,101
并查看他们的照片。”
257
00:13:31,185 --> 00:13:35,481
但他们没有意识到的是
他们正在争夺你的注意力。
258
00:13:36,524 --> 00:13:41,111
所以，你知道，Facebook、Snapchat、
推特、Instagram、YouTube、
259
00:13:41,195 --> 00:13:45,699
像这样的公司，他们的商业模式
是为了让人们持续关注屏幕。
260
00:13:46,283 --> 00:13:49,578
让我们弄清楚如何获得
尽可能多地关注此人
261
00:13:49,662 --> 00:13:50,955
尽我们所能。
262
00:13:51,455 --> 00:13:53,374
我们可以让您花多少时间？
263
00:13:53,874 --> 00:13:56,669
我们能得到你多少生命
给我们？
264
00:13:58,629 --> 00:14:01,090
[贾斯汀]当你想到
其中一些公司是如何运作的，
265
00:14:01,173 --> 00:14:02,424
它开始有意义了。
266
00:14:03,050 --> 00:14:06,095
这些服务都有
在我们认为免费的互联网上，
267
00:14:06,178 --> 00:14:09,473
但它们不是免费的。
他们的费用是由广告商支付的。
268
00:14:09,557 --> 00:14:11,559
广告商为何向这些公司付费？
269
00:14:11,642 --> 00:14:14,687
他们付费以换取展示广告的机会
对我们来说。
270
00:14:14,770 --> 00:14:18,357
我们就是产品。我们的关注
是出售给广告商的产品。
271
00:14:18,816 --> 00:14:20,442
这有点太简单了。
272
00:14:20,860 --> 00:14:23,654
是逐渐的、轻微的、
难以察觉的变化
273
00:14:23,737 --> 00:14:26,574
在你自己的行为和看法中
这就是产品。
274
00:14:27,658 --> 00:14:30,244
这就是产品。
这是唯一可能的产品。
275
00:14:30,327 --> 00:14:34,081
桌子上没有其他东西了
这可以称为产品。
276
00:14:34,164 --> 00:14:37,001
这是唯一的东西
让他们从中赚钱。
277
00:14:37,668 --> 00:14:39,253
改变你所做的事，
278
00:14:39,336 --> 00:14:41,714
你怎么想，你是谁。
279
00:14:42,631 --> 00:14:45,301
这是一个渐进的变化。是轻微的。
280
00:14:45,384 --> 00:14:48,971
如果你可以去找某人并说，
“给我一千万美元，
281
00:14:49,054 --> 00:14:54,310
我将改变世界百分之一
朝着你想要的方向改变……”
282
00:14:54,852 --> 00:14:58,188
这就是世界！这可能令人难以置信，
这值很多钱。
283
00:14:59,315 --> 00:15:00,149
好的。
284
00:15:00,691 --> 00:15:04,570
[Shoshana] 这就是每个企业
一直梦想着：
285
00:15:04,653 --> 00:15:10,910
保证如果它放置
一个广告，就会成功。
286
00:15:11,327 --> 00:15:12,786
那是他们的事。
287
00:15:12,870 --> 00:15:14,413
他们出售确定性。
288
00:15:14,997 --> 00:15:17,625
为了成功
在那项业务中，
289
00:15:17,708 --> 00:15:19,793
你必须有很好的预测。
290
00:15:20,085 --> 00:15:24,173
伟大的预测开始了
有一个命令：
291
00:15:25,215 --> 00:15:26,926
你需要大量数据。
292
00:15:29,136 --> 00:15:31,305
很多人称之为
监视资本主义，
293
00:15:31,639 --> 00:15:34,350
资本主义获利
摆脱无限追踪
294
00:15:34,433 --> 00:15:38,062
每个人都去的地方
由大型科技公司
295
00:15:38,145 --> 00:15:40,356
谁的商业模式是为了确保
296
00:15:40,439 --> 00:15:42,858
广告商同样成功
尽可能。
297
00:15:42,942 --> 00:15:45,569
现在这是一种新型市场。
298
00:15:45,653 --> 00:15:48,072
这是一个市场
以前从未存在过。
299
00:15:48,822 --> 00:15:55,371
这是一个市场
专门进行人类期货交易。
300
00:15:56,080 --> 00:16:01,585
就像有交易市场一样
五花肉期货或石油期货。
301
00:16:02,127 --> 00:16:07,591
我们现在有市场
大规模的人类期货交易，
302
00:16:08,175 --> 00:16:13,472
这些市场已经产生了
数万亿美元
303
00:16:14,014 --> 00:16:19,269
那些成就了互联网公司
最富有的公司
304
00:16:19,353 --> 00:16:22,356
在人类历史上。
305
00:16:23,357 --> 00:16:25,359
[模糊的喋喋不休]
306
00:16:27,361 --> 00:16:30,990
[杰夫]我想让人们知道什么
他们在网上所做的一切
307
00:16:31,073 --> 00:16:34,326
正在被监视，正在被跟踪，
正在测量。
308
00:16:35,035 --> 00:16:39,623
你采取的每一个行动
被仔细监控和记录。
309
00:16:39,707 --> 00:16:43,836
正是你停下来观看的图像，
你看它多久。
310
00:16:43,919 --> 00:16:45,796
哦，是的，说真的，
你看它多久。
311
00:16:45,879 --> 00:16:47,881
[监视器发出蜂鸣声]
312
00:16:50,509 --> 00:16:52,219
[特里斯坦]他们知道
当人们感到孤独时。
313
00:16:52,302 --> 00:16:53,804
他们知道人们何时感到沮丧。
314
00:16:53,887 --> 00:16:57,099
他们知道人们何时在寻找
看你前浪漫伴侣的照片。
315
00:16:57,182 --> 00:17:00,853
他们知道你深夜在做什么。
他们知道整件事。
316
00:17:01,270 --> 00:17:03,230
您是否内向
或外向的人，
317
00:17:03,313 --> 00:17:06,817
或者你有什么样的神经症，
您的性格类型是什么样的。
318
00:17:08,193 --> 00:17:11,613
[Shoshana] 他们有更多信息
关于我们
319
00:17:11,697 --> 00:17:14,324
比想象中的
在人类历史上。
320
00:17:14,950 --> 00:17:16,368
这是前所未有的。
321
00:17:18,579 --> 00:17:22,791
因此，我们...的所有这些数据
我们一直在倾诉
322
00:17:22,875 --> 00:17:26,754
正在被输入到这些系统中
几乎没有人类监督
323
00:17:27,463 --> 00:17:30,883
并且正在变得越来越好
以及越来越好的预测
324
00:17:30,966 --> 00:17:33,552
关于我们要做什么
以及……以及我们是谁。
325
00:17:33,635 --> 00:17:35,637
[模糊的喋喋不休]
326
00:17:36,305 --> 00:17:39,349
[阿扎] 人们有这样的误解
这是我们的数据被出售。
327
00:17:40,350 --> 00:17:43,187
这不符合 Facebook 的商业利益
放弃数据。
328
00:17:45,522 --> 00:17:47,107
他们如何处理这些数据？
329
00:17:49,401 --> 00:17:50,986
[控制台嗡嗡作响]
330
00:17:51,070 --> 00:17:54,490
[Aza] 他们建造模型
预测我们的行动，
331
00:17:54,573 --> 00:17:57,618
谁拥有最好的模型，谁就获胜。
332
00:18:02,706 --> 00:18:04,041
他的滚动速度正在减慢。
333
00:18:04,124 --> 00:18:06,085
接近尾声
他的平均会话长度。
334
00:18:06,168 --> 00:18:07,002
减少广告负载。
335
00:18:07,086 --> 00:18:08,337
远离朋友和家人。
336
00:18:09,588 --> 00:18:11,340
[特里斯坦] 在屏幕的另一边，
337
00:18:11,423 --> 00:18:15,469
就好像他们有
这是我们的化身巫毒娃娃模型。
338
00:18:16,845 --> 00:18:18,180
我们曾经做过的所有事情，
339
00:18:18,263 --> 00:18:19,473
我们所做的所有点击，
340
00:18:19,556 --> 00:18:21,642
我们看过的所有视频，
所有的喜欢，
341
00:18:21,725 --> 00:18:25,354
一切都被带回到建筑中
一个越来越准确的模型。
342
00:18:25,896 --> 00:18:27,481
模型一旦有了，
343
00:18:27,564 --> 00:18:29,858
你可以预测事情的种类
那个人确实如此。
344
00:18:29,942 --> 00:18:31,777
好吧，我来测试一下。
345
00:18:32,569 --> 00:18:34,988
[特里斯坦]你要去哪里。
我可以预测什么类型的视频
346
00:18:35,072 --> 00:18:36,115
会让你持续关注。
347
00:18:36,198 --> 00:18:39,159
我可以预测什么样的情绪倾向
来触发你。
348
00:18:39,243 --> 00:18:40,410
[蓝色AI] 是的，完美。
349
00:18:41,578 --> 00:18:43,372
今年最史诗般的失败。
350
00:18:46,125 --> 00:18:47,543
-[视频中人群呻吟]
-[嘶嘶声]
351
00:18:48,627 --> 00:18:51,088
-完美。那行得通。
-接下来是另一个视频。
352
00:18:51,171 --> 00:18:54,049
美丽的。让我们挤进一个运动鞋广告
在开始之前。
353
00:18:56,426 --> 00:18:58,178
[特里斯坦] 很多
的科技公司，
354
00:18:58,262 --> 00:18:59,721
有三个主要目标。
355
00:18:59,805 --> 00:19:01,348
参与目标是：
356
00:19:01,431 --> 00:19:03,684
为了提高您的使用率，
让您继续滚动。
357
00:19:04,601 --> 00:19:06,145
增长目标是：
358
00:19:06,228 --> 00:19:08,689
让你回来
并邀请尽可能多的朋友
359
00:19:08,772 --> 00:19:10,816
并让他们邀请更多朋友。
360
00:19:11,650 --> 00:19:13,152
然后是广告目标：
361
00:19:13,235 --> 00:19:14,987
以确保
当这一切发生时，
362
00:19:15,070 --> 00:19:17,406
我们正在赚尽可能多的钱
来自广告。
363
00:19:18,115 --> 00:19:19,158
[控制台蜂鸣声]
364
00:19:19,241 --> 00:19:21,994
这些目标中的每一个都有动力
通过算法
365
00:19:22,077 --> 00:19:24,454
谁的工作是弄清楚
给你看什么
366
00:19:24,538 --> 00:19:26,165
让这些数字继续上升。
367
00:19:26,623 --> 00:19:29,918
我们经常在 Facebook 上谈论，
这个想法
368
00:19:30,002 --> 00:19:34,006
能够根据需要拨打电话。
369
00:19:34,673 --> 00:19:38,594
而且，你知道，我们谈过
让马克拥有那些表盘。
370
00:19:41,305 --> 00:19:44,474
“嘿，我今天希望韩国有更多用户。”
371
00:19:45,684 --> 00:19:46,602
“转动转盘。”
372
00:19:47,436 --> 00:19:49,188
“让我们稍微调一下广告吧。”
373
00:19:49,980 --> 00:19:51,899
“拨号货币化，只是稍微提高一点。”
374
00:19:52,858 --> 00:19:55,444
于是，那个幸福——
375
00:19:55,527 --> 00:19:59,239
我的意思是，在所有这些公司中，
有这样的精确度。
376
00:19:59,990 --> 00:20:02,409
-伙计，怎么--
-我不知道我怎么没被打卡。
377
00:20:02,492 --> 00:20:05,704
-那个裁判只是，就像，很糟糕什么的。
-你真的已经一路走来了...
378
00:20:05,787 --> 00:20:07,956
-那是丽贝卡。去跟她谈谈吧。
-我知道是谁。
379
00:20:08,040 --> 00:20:10,834
-伙计，哟，去跟她谈谈吧。
-[家伙]我正在努力。
380
00:20:10,918 --> 00:20:14,171
他的日历显示他正在休息
现在。我们应该活着。
381
00:20:14,755 --> 00:20:16,465
[叹气]要我推他一下吗？
382
00:20:17,132 --> 00:20:18,050
是的，推开。
383
00:20:18,133 --> 00:20:19,092
[控制台蜂鸣声]
384
00:20:21,637 --> 00:20:24,181
“你的朋友泰勒刚刚加入。
挥手打招呼。”
385
00:20:26,016 --> 00:20:27,184
[参与人工智能] 加油，本。
386
00:20:27,267 --> 00:20:29,311
发一波。 [叹气]
387
00:20:29,394 --> 00:20:32,606
-你不是...去跟她谈谈吧，伙计。
-[手机振动、提示音]
388
00:20:33,857 --> 00:20:35,484
-[本叹气]
-[手机铃声]
389
00:20:36,902 --> 00:20:37,986
[控制台蜂鸣声]
390
00:20:38,070 --> 00:20:40,447
新链接！好吧，我们开始了。 [呼气]
391
00:20:40,948 --> 00:20:46,078
跟进一个帖子
来自用户 079044238820，丽贝卡。
392
00:20:46,161 --> 00:20:49,790
好主意。 GPS坐标指示
他们很接近。
393
00:20:55,921 --> 00:20:57,172
他已经准备好拍广告了。
394
00:20:57,631 --> 00:20:58,632
拍卖时间。
395
00:21:00,133 --> 00:21:02,803
卖！深层褪色发蜡。
396
00:21:03,387 --> 00:21:07,933
我们有 468 名感兴趣的投标人。我们卖了本
一次展示的价格为 3.262 美分。
397
00:21:08,850 --> 00:21:10,852
【忧郁的钢琴曲演奏】
398
00:21:14,147 --> 00:21:15,065
[本叹气]
399
00:21:17,109 --> 00:21:18,735
[Jaron] 我们创造了一个世界
400
00:21:18,819 --> 00:21:21,530
其中在线连接
已成为首要的，
401
00:21:22,072 --> 00:21:23,907
尤其是对于年轻一代。
402
00:21:23,991 --> 00:21:28,328
然而，在那个世界里，
任何时候两个人联系时，
403
00:21:29,162 --> 00:21:33,250
唯一的融资方式
通过偷偷摸摸的第三人称
404
00:21:33,333 --> 00:21:35,627
谁在花钱操纵
那两个人。
405
00:21:36,128 --> 00:21:39,381
所以，我们创建了
全球整整一代人
406
00:21:39,464 --> 00:21:44,011
谁是在特定背景下长大的
沟通的真正意义在于，
407
00:21:44,094 --> 00:21:47,431
文化的真正意义，
是操纵。
408
00:21:47,514 --> 00:21:49,641
我们设置了欺骗和偷偷摸摸
409
00:21:49,725 --> 00:21:52,311
在绝对中心
我们所做的一切。
410
00:22:05,615 --> 00:22:07,242
-[采访者]抓住...
-[特里斯坦]好的。
411
00:22:07,326 --> 00:22:09,286
- 握住它在哪里有帮助？
- [采访者] 太棒了。
412
00:22:09,369 --> 00:22:10,787
-[特里斯坦]在这里？
- [采访者] 是的。
413
00:22:10,871 --> 00:22:13,832
这是如何出现在摄像机上的
如果我要做这个动作——
414
00:22:13,915 --> 00:22:15,542
-[采访者]我们可以--
-[吹]就这样？
415
00:22:15,625 --> 00:22:16,918
-[采访者笑]什么？
-是的。
416
00:22:17,002 --> 00:22:19,004
-[采访者]再做一次。
-确切地。是的。 [打击]
417
00:22:19,087 --> 00:22:20,589
是的。不，这可能不是...
418
00:22:20,672 --> 00:22:21,965
就像...是的。
419
00:22:22,466 --> 00:22:23,884
我的意思是，这个比较少……
420
00:22:29,681 --> 00:22:33,268
[采访者笑]拉里萨的，就像，
实际上在这里吓坏了。
421
00:22:34,728 --> 00:22:35,562
这样好吗？
422
00:22:35,645 --> 00:22:37,773
[器乐演奏]
423
00:22:37,856 --> 00:22:41,068
[特里斯坦]我当时大概五岁
当我学会如何施展魔法时。
424
00:22:41,151 --> 00:22:45,781
我可以愚弄成年人，
拥有博士学位等完全成年的成年人。
425
00:22:55,040 --> 00:22:57,709
魔术师几乎就像
第一批神经科学家
426
00:22:57,793 --> 00:22:58,960
和心理学家。
427
00:22:59,044 --> 00:23:02,005
就像，他们就是那些
谁第一个明白
428
00:23:02,089 --> 00:23:03,382
人们的思维是如何运作的。
429
00:23:04,216 --> 00:23:07,677
他们只是实时测试
人们身上有很多很多的东西。
430
00:23:09,137 --> 00:23:11,139
魔术师明白一些事情，
431
00:23:11,223 --> 00:23:14,017
你头脑的某些部分
我们不知道。
432
00:23:14,101 --> 00:23:15,936
这就是幻觉发挥作用的原因。
433
00:23:16,019 --> 00:23:20,607
医生、律师、知情人士
如何建造 747 或核导弹，
434
00:23:20,690 --> 00:23:24,361
他们不知道更多
他们自己的心灵是多么脆弱。
435
00:23:24,444 --> 00:23:26,113
这是一个单独的学科。
436
00:23:26,571 --> 00:23:28,990
这是一门纪律
这适用于全人类。
437
00:23:30,909 --> 00:23:34,079
从这个角度来看，你可以拥有
非常不同的理解
438
00:23:34,162 --> 00:23:35,580
技术正在做什么。
439
00:23:36,873 --> 00:23:39,584
当我是
在斯坦福说服技术实验室，
440
00:23:39,668 --> 00:23:41,044
这就是我们学到的。
441
00:23:41,628 --> 00:23:43,463
你怎么能利用我们所知道的一切
442
00:23:43,547 --> 00:23:45,882
关于心理学
是什么说服了人们
443
00:23:45,966 --> 00:23:48,385
并将其融入技术？
444
00:23:48,468 --> 00:23:50,887
现在，很多观众
已经是天才了。
445
00:23:50,971 --> 00:23:55,851
我认为这是真的，但我的目标是
把你变成一个行为改变的天才。
446
00:23:56,852 --> 00:24:01,148
硅谷有很多知名人士
参加过那堂课的人物——
447
00:24:01,231 --> 00:24:05,485
Facebook 和 Uber 的关键增长数据
以及……以及其他公司——
448
00:24:05,569 --> 00:24:09,197
并学会了如何制造技术
更有说服力，
449
00:24:09,614 --> 00:24:10,782
特里斯坦就是其中之一。
450
00:24:12,284 --> 00:24:14,619
[Tristan] 说服性技术
只是一种设计
451
00:24:14,703 --> 00:24:16,580
故意运用到极致，
452
00:24:16,663 --> 00:24:18,874
我们真正想要修改的地方
某人的行为。
453
00:24:18,957 --> 00:24:20,542
我们希望他们采取这一行动。
454
00:24:20,625 --> 00:24:23,336
我们希望他们继续这样做
用他们的手指。
455
00:24:23,420 --> 00:24:26,256
你下拉然后刷新，
这将是顶部的一个新事物。
456
00:24:26,339 --> 00:24:28,508
再次下拉刷新，又是新的了。
每一次。
457
00:24:28,592 --> 00:24:33,722
在心理学中，我们称之为
积极的间歇性强化。
458
00:24:33,805 --> 00:24:37,142
你不知道什么时候才能得到它
或者如果你想得到一些东西
459
00:24:37,225 --> 00:24:40,061
就像老虎机一样操作
在维加斯。
460
00:24:40,145 --> 00:24:42,230
这还不够
您有意识地使用该产品，
461
00:24:42,314 --> 00:24:44,024
我想深入挖掘
进入脑干
462
00:24:44,107 --> 00:24:45,817
并植入你的内心，
463
00:24:45,901 --> 00:24:47,652
无意识的习惯
464
00:24:47,736 --> 00:24:50,864
这样你就被编程了
在更深层次上。
465
00:24:50,947 --> 00:24:52,115
你甚至没有意识到。
466
00:24:52,532 --> 00:24:54,034
[老师] 一个男人，詹姆斯·马歇尔......
467
00:24:54,117 --> 00:24:56,286
[特里斯坦] 每次你在那里看到它
在柜台上，
468
00:24:56,369 --> 00:24:59,789
你只要看着它，
你知道如果你伸手过去
469
00:24:59,873 --> 00:25:01,333
它可能对你有帮助，
470
00:25:01,416 --> 00:25:03,877
所以你玩老虎机
看看你得到了什么，对吗？
471
00:25:03,960 --> 00:25:06,046
这并非偶然。
这是一种设计技术。
472
00:25:06,129 --> 00:25:08,632
[老师]他带来了一块金块
给一名官员
473
00:25:09,841 --> 00:25:11,301
在旧金山的军队里。
474
00:25:12,219 --> 00:25:15,388
请注意，...人口
旧金山仅...
475
00:25:15,472 --> 00:25:17,432
[杰夫]
另一个例子是照片标记。
476
00:25:17,516 --> 00:25:19,643
-[老师]这个秘密并没有持续太久。
-[手机振动]
477
00:25:19,726 --> 00:25:21,186
[Jeff] 所以，如果你收到一封电子邮件
478
00:25:21,269 --> 00:25:24,064
这表明你的朋友刚刚标记了你
在一张照片中，
479
00:25:24,147 --> 00:25:28,568
当然你要点击
在那封电子邮件上并查看照片。
480
00:25:29,152 --> 00:25:31,821
这不是什么东西
你可以决定忽略。
481
00:25:32,364 --> 00:25:34,157
这是根深蒂固的，比如
482
00:25:34,241 --> 00:25:36,326
人的个性
他们正在利用的。
483
00:25:36,409 --> 00:25:38,078
你应该问自己的是：
484
00:25:38,161 --> 00:25:40,288
“为什么该电子邮件不包含
里面的照片？
485
00:25:40,372 --> 00:25:42,457
会容易很多
来看看照片。”
486
00:25:42,541 --> 00:25:45,919
当 Facebook 发现这个功能时，
他们刚刚拨通了这个地狱
487
00:25:46,002 --> 00:25:48,505
因为他们说，“这将会是
增加活动的好方法。
488
00:25:48,588 --> 00:25:51,091
让我们让人们互相标记
整天都在照片里。”
489
00:25:51,174 --> 00:25:53,176
[欢快的电子音乐播放]
490
00:25:57,889 --> 00:25:58,890
[手机铃声]
491
00:25:59,349 --> 00:26:00,475
他评论道。
492
00:26:00,559 --> 00:26:01,434
[成长AI] 不错。
493
00:26:01,935 --> 00:26:04,688
好的，丽贝卡收到了，
她正在回应。
494
00:26:04,771 --> 00:26:07,566
好的，让本知道她正在打字
这样我们就不会失去他。
495
00:26:07,649 --> 00:26:08,733
激活省略号。
496
00:26:09,776 --> 00:26:11,945
[老师继续含糊其辞]
497
00:26:13,697 --> 00:26:15,865
【紧张的器乐演奏】
498
00:26:19,953 --> 00:26:21,329
太好了，她发帖了。
499
00:26:21,454 --> 00:26:24,249
他正在评论她的评论
关于他对她的帖子的评论。
500
00:26:25,041 --> 00:26:26,418
等一下，他停止打字了。
501
00:26:26,751 --> 00:26:27,752
让我们自动填充。
502
00:26:28,420 --> 00:26:30,005
表情符号。他喜欢表情符号。
503
00:26:33,842 --> 00:26:34,676
他带着火走了。
504
00:26:34,759 --> 00:26:36,803
[咂舌，叹气]
我非常喜欢茄子。
505
00:26:38,597 --> 00:26:42,726
[特里斯坦]有一门完整的学科
这个领域被称为“增长黑客”。
506
00:26:42,809 --> 00:26:47,147
工程师团队
他的工作就是破解人们的心理
507
00:26:47,230 --> 00:26:48,565
这样他们就能获得更多的成长。
508
00:26:48,648 --> 00:26:50,984
他们可以获得更多的用户注册，
更多参与。
509
00:26:51,067 --> 00:26:52,861
他们可以让您邀请更多人。
510
00:26:52,944 --> 00:26:55,989
经过所有的测试，所有的迭代，
所有这些东西，
511
00:26:56,072 --> 00:26:57,907
你知道最重要的事情
我们意识到了吗？
512
00:26:57,991 --> 00:27:00,702
将任何人加为七个好友
十天内。
513
00:27:01,953 --> 00:27:02,787
就是这样。
514
00:27:02,871 --> 00:27:05,498
查马斯 (Chamath) 是 Facebook 的增长主管
很早以前，
515
00:27:05,582 --> 00:27:08,251
他很有名
在科技行业
516
00:27:08,335 --> 00:27:11,004
开创了许多增长策略
517
00:27:11,087 --> 00:27:14,758
用于发展 Facebook
以令人难以置信的速度。
518
00:27:14,841 --> 00:27:18,553
然后这些增长策略就变成了
硅谷的标准剧本。
519
00:27:18,637 --> 00:27:21,222
它们曾在 Uber 使用
以及其他一些公司。
520
00:27:21,306 --> 00:27:27,062
他开创的事情之一
是使用科学的 A/B 测试
521
00:27:27,145 --> 00:27:28,480
小的功能变化。
522
00:27:29,022 --> 00:27:30,940
谷歌和脸书等公司
523
00:27:31,024 --> 00:27:34,569
将会推出
很多小实验
524
00:27:34,653 --> 00:27:36,821
他们不断对用户做的事情。
525
00:27:36,905 --> 00:27:39,866
而随着时间的推移，
通过进行这些不断的实验，
526
00:27:39,949 --> 00:27:43,036
你...你发展最优化的方式
527
00:27:43,119 --> 00:27:45,288
让用户做
你想让他们做什么。
528
00:27:45,372 --> 00:27:46,790
这是……这是操纵。
529
00:27:47,332 --> 00:27:49,459
[采访者]
呃，你让我感觉自己就像一只实验室老鼠。
530
00:27:49,834 --> 00:27:51,920
你是一只实验室老鼠。我们都是实验室老鼠。
531
00:27:52,545 --> 00:27:55,548
我们又不像实验室老鼠
开发癌症治疗方法。
532
00:27:55,632 --> 00:27:58,134
他们并没有在努力
让我们受益。
533
00:27:58,218 --> 00:28:01,680
对吗？我们只是僵尸，
他们希望我们看更多广告
534
00:28:01,763 --> 00:28:03,181
这样他们就可以赚更多的钱。
535
00:28:03,556 --> 00:28:05,266
[Shoshana] Facebook 进行
536
00:28:05,350 --> 00:28:08,228
他们叫什么
“大规模的传染实验。”
537
00:28:08,311 --> 00:28:09,145
好的。
538
00:28:09,229 --> 00:28:13,066
[Shoshana] 我们如何使用潜意识线索
在 Facebook 页面上
539
00:28:13,400 --> 00:28:17,654
让更多人去投票
在中期选举中？
540
00:28:17,987 --> 00:28:20,824
他们发现
他们能够做到这一点。
541
00:28:20,907 --> 00:28:24,160
他们得出的一件事
我们现在知道了
542
00:28:24,744 --> 00:28:28,915
我们可以影响现实世界的行为
和情绪
543
00:28:28,998 --> 00:28:32,877
从未触发过
用户的认知度。
544
00:28:33,378 --> 00:28:37,382
他们完全一无所知。
545
00:28:38,049 --> 00:28:41,970
我们正在瞄准这些人工智能引擎
回到我们自己
546
00:28:42,053 --> 00:28:46,224
对引发响应的内容进行逆向工程
来自我们。
547
00:28:47,100 --> 00:28:49,561
几乎就像你在刺激神经细胞一样
在蜘蛛上
548
00:28:49,644 --> 00:28:51,479
看看是什么导致它的腿做出反应。
549
00:28:51,938 --> 00:28:53,940
所以，确实是这样
这种监狱实验
550
00:28:54,023 --> 00:28:56,735
我们只是在哪里，你知道，
将人们绳索到矩阵中，
551
00:28:56,818 --> 00:29:00,572
我们只是收获所有这些钱
以及...以及他们所有活动的数据
552
00:29:00,655 --> 00:29:01,489
从中获利。
553
00:29:01,573 --> 00:29:03,450
而我们甚至不知道
它正在发生。
554
00:29:04,117 --> 00:29:07,912
所以我们要从心理上弄清楚
如何尽快操纵你
555
00:29:07,996 --> 00:29:10,081
然后再给你多巴胺的刺激。
556
00:29:10,165 --> 00:29:12,375
我们在 Facebook 做得非常出色。
557
00:29:12,625 --> 00:29:14,919
Instagram 已经做到了。
WhatsApp 已经做到了。
558
00:29:15,003 --> 00:29:17,380
你知道，Snapchat 已经做到了。
推特已经做到了。
559
00:29:17,464 --> 00:29:19,424
我的意思是，这正是这样的事情
560
00:29:19,507 --> 00:29:22,427
那是……像我这样的黑客
会想出
561
00:29:22,510 --> 00:29:27,015
因为你正在利用一个漏洞
在……人类心理学中。
562
00:29:27,807 --> 00:29:29,726
[笑]我只是...
我认为我们...
563
00:29:29,809 --> 00:29:33,438
你知道，发明家、创造者……
564
00:29:33,980 --> 00:29:37,317
呃，你知道，是我，是马克，
这是...
565
00:29:37,400 --> 00:29:40,403
你知道，Instagram 的凯文·斯特罗姆 (Kevin Systrom)...
都是这些人啊...
566
00:29:40,487 --> 00:29:46,451
嗯，有意识地理解了这一点，
不管怎样我们还是这么做了。
567
00:29:50,580 --> 00:29:53,750
当自行车出现时，没有人感到不安。
568
00:29:55,043 --> 00:29:58,004
正确的？就像，如果每个人都开始
骑着自行车到处走走，
569
00:29:58,087 --> 00:30:00,924
没有人说，
“哦，天哪，我们刚刚毁了社会。
570
00:30:01,007 --> 00:30:03,051
[笑声]
就像自行车正在影响人们一样。
571
00:30:03,134 --> 00:30:05,303
他们拉着人
远离他们的孩子。
572
00:30:05,386 --> 00:30:08,723
他们正在破坏民主的结构。
人们无法分辨什么是真实的。”
573
00:30:08,807 --> 00:30:11,476
就像，我们从来没有说过这样的话
关于自行车。
574
00:30:12,769 --> 00:30:16,147
如果某物是一种工具，
它真的只是坐在那里，
575
00:30:16,731 --> 00:30:18,733
耐心等待。
576
00:30:19,317 --> 00:30:22,821
如果某样东西不是工具，
它对你有要求。
577
00:30:22,904 --> 00:30:26,533
它在诱惑你。它在操纵你。
它想要从你那里得到东西。
578
00:30:26,950 --> 00:30:30,495
我们已经不再拥有
基于工具的技术环境
579
00:30:31,037 --> 00:30:34,499
以成瘾和操纵为基础
技术环境。
580
00:30:34,582 --> 00:30:35,708
这就是改变的地方。
581
00:30:35,792 --> 00:30:39,420
社交媒体不是工具
那只是等待使用。
582
00:30:39,504 --> 00:30:43,466
它有自己的目标，
它有自己的手段来追求它们
583
00:30:43,550 --> 00:30:45,677
利用你的心理来对付你。
584
00:30:45,760 --> 00:30:47,762
[不祥的器乐演奏]
585
00:30:57,564 --> 00:31:00,567
[蒂姆] 倒回几年前，
我是那个...
586
00:31:00,650 --> 00:31:02,318
我是 Pinterest 的总裁。
587
00:31:03,152 --> 00:31:05,113
我正要回家，
588
00:31:05,196 --> 00:31:08,366
我无法放下手机
我一回到家，
589
00:31:08,449 --> 00:31:12,161
尽管有两个年幼的孩子
谁需要我的爱和关注。
590
00:31:12,245 --> 00:31:15,748
我当时在食品储藏室，你知道，
不停地打字电子邮件
591
00:31:15,832 --> 00:31:17,542
或者有时看看 Pinterest。
592
00:31:18,001 --> 00:31:19,627
我想：“天哪，这真是典型的讽刺。
593
00:31:19,711 --> 00:31:22,046
我白天要去上班
594
00:31:22,130 --> 00:31:26,426
并建造一些东西
那么我就会成为牺牲品。”
595
00:31:26,509 --> 00:31:30,096
我不能...我的意思是，有些
在那些时刻，我无法控制自己。
596
00:31:30,179 --> 00:31:31,848
-[通知铃声]
-[女人喘息]
597
00:31:32,307 --> 00:31:36,102
那个
我...我最喜欢的是 Twitter。
598
00:31:36,185 --> 00:31:38,021
呃，以前是 Reddit。
599
00:31:38,104 --> 00:31:42,859
我实际上必须自己编写软件
戒掉我阅读 Reddit 的瘾。
600
00:31:42,942 --> 00:31:44,903
-[通知铃声]
-[老虎机呼呼作响]
601
00:31:45,403 --> 00:31:47,780
我可能最沉迷于我的电子邮件。
602
00:31:47,864 --> 00:31:49,866
我的意思是，真的。我是说，我……我感觉到了。
603
00:31:49,949 --> 00:31:51,409
-[通知铃声]
-[女人喘息]
604
00:31:51,492 --> 00:31:52,493
[电流爆裂声]
605
00:31:52,577 --> 00:31:54,954
嗯，我的意思是，这很有趣
606
00:31:55,038 --> 00:31:58,166
知道发生了什么
窗帘后面，
607
00:31:58,249 --> 00:32:01,628
我仍然无法控制我的使用。
608
00:32:01,711 --> 00:32:03,046
所以，这有点可怕。
609
00:32:03,630 --> 00:32:07,050
即使知道这些技巧是如何运作的，
我仍然对他们很敏感。
610
00:32:07,133 --> 00:32:09,886
我还是会拿起电话
20分钟就会消失。
611
00:32:09,969 --> 00:32:11,387
[通知铃声]
612
00:32:11,471 --> 00:32:12,722
-[液体涌动]
-[女人喘息]
613
00:32:12,805 --> 00:32:15,725
你检查你的智能手机吗
早上小便之前
614
00:32:15,808 --> 00:32:17,477
或者当你早上撒尿的时候？
615
00:32:17,560 --> 00:32:19,479
因为这是唯一的两个选择。
616
00:32:19,562 --> 00:32:23,274
我尝试通过意志力，
只是纯粹的意志力...
617
00:32:23,358 --> 00:32:26,903
“我会放下手机，我会离开
当我回到家时，我的手机就在车里。”
618
00:32:26,986 --> 00:32:30,573
我想我已经告诉自己一千遍了
一千个不同的日子，
619
00:32:30,657 --> 00:32:32,617
“我不会带手机
到卧室，”
620
00:32:32,700 --> 00:32:34,535
然后晚上 9:00滚来滚去。
621
00:32:34,619 --> 00:32:37,121
“嗯，我想带上我的手机
在卧室里。”
622
00:32:37,205 --> 00:32:39,290
[深吸一口气]
所以，这有点......
623
00:32:39,374 --> 00:32:41,125
意志力是一种尝试，
624
00:32:41,209 --> 00:32:44,295
然后第二次尝试是
你知道，蛮力。
625
00:32:44,379 --> 00:32:48,091
[播音员] 介绍厨房保险箱。
厨房保险箱是一项革命性的，
626
00:32:48,174 --> 00:32:51,678
新的限时容器
这可以帮助你抵抗诱惑。
627
00:32:51,761 --> 00:32:56,724
大卫所要做的就是地点
厨房保险箱里的那些诱惑。
628
00:32:57,392 --> 00:33:00,395
接下来，他旋转转盘
设置计时器。
629
00:33:01,479 --> 00:33:04,232
最后，他按下了拨号盘
激活锁。
630
00:33:04,315 --> 00:33:05,525
厨房保险箱很棒......
631
00:33:05,608 --> 00:33:06,776
我们有那个，不是吗？
632
00:33:06,859 --> 00:33:08,653
...视频游戏、信用卡
还有手机。
633
00:33:08,736 --> 00:33:09,654
是的，我们愿意。
634
00:33:09,737 --> 00:33:12,407
[播音员]一旦厨房安全
已锁定，无法打开
635
00:33:12,490 --> 00:33:13,866
直到计时器达到零。
636
00:33:13,950 --> 00:33:15,618
[安娜]所以，事情是这样的。
637
00:33:15,702 --> 00:33:17,537
社交媒体是一种毒品。
638
00:33:17,620 --> 00:33:20,873
我的意思是，
我们有一个基本的生物学要求
639
00:33:20,957 --> 00:33:23,084
与其他人联系。
640
00:33:23,167 --> 00:33:28,214
直接影响发布
奖励途径中的多巴胺。
641
00:33:28,297 --> 00:33:32,552
数百万年的进化，嗯，
是那个系统的幕后黑手
642
00:33:32,635 --> 00:33:35,596
让我们走到一起
并生活在社区中，
643
00:33:35,680 --> 00:33:38,016
寻找伴侣，繁衍我们的物种。
644
00:33:38,099 --> 00:33:41,853
所以，毫无疑问
像社交媒体这样的工具，
645
00:33:41,936 --> 00:33:45,690
这优化了这个连接
人与人之间，
646
00:33:45,773 --> 00:33:48,568
将会有潜力
为了成瘾。
647
00:33:52,071 --> 00:33:54,115
-嗯！ [笑]
-爸爸，停下来！
648
00:33:55,450 --> 00:33:58,453
我还有 1,000 个以上的剪辑
晚餐前发送。
649
00:33:58,536 --> 00:34:00,788
-[爸爸]剪剪？
-我不知道什么是剪辑。
650
00:34:00,872 --> 00:34:03,207
-嗯，闻起来很香，宝贝。
-好的。谢谢。
651
00:34:03,291 --> 00:34:05,877
我当时想我们可以用
所有五种感官
652
00:34:05,960 --> 00:34:07,712
享受我们今晚的晚餐。
653
00:34:07,795 --> 00:34:11,382
所以我决定我们不会
今晚桌上有手机吗？
654
00:34:11,466 --> 00:34:13,301
所以，把他们交出来。
655
00:34:13,801 --> 00:34:14,802
-真的吗？
-[妈妈] 是的。
656
00:34:15,928 --> 00:34:18,056
-好的。
-谢谢。本？
657
00:34:18,139 --> 00:34:20,433
-好的。
-妈妈，电话海盗。 [嘲笑]
658
00:34:21,100 --> 00:34:21,934
-明白了。
-妈妈！
659
00:34:22,518 --> 00:34:26,147
所以，他们在这里会很安全
直到晚饭后...
660
00:34:27,273 --> 00:34:30,651
-每个人都可以放松一下。
-[安全呼呼声]
661
00:34:30,735 --> 00:34:31,569
好吧？
662
00:34:40,828 --> 00:34:41,704
[卡斯叹气]
663
00:34:45,708 --> 00:34:47,043
[通知铃声]
664
00:34:47,418 --> 00:34:49,253
-我可以看看是谁吗？
-不。
665
00:34:54,759 --> 00:34:56,969
我要去拿另一把叉子。
666
00:34:58,304 --> 00:34:59,263
谢谢。
667
00:35:04,727 --> 00:35:06,771
亲爱的，你打不开那个。
668
00:35:06,854 --> 00:35:09,315
我锁了一个小时
所以就别管它了。
669
00:35:11,192 --> 00:35:13,361
那么，我们应该谈论什么呢？
670
00:35:13,444 --> 00:35:14,695
好吧，我们可以谈谈
671
00:35:14,779 --> 00:35:17,615
关于，呃，极限中心怪人
我今天开车路过。
672
00:35:17,698 --> 00:35:18,825
-[妈妈]拜托，弗兰克。
-什么？
673
00:35:18,908 --> 00:35:20,785
[妈妈]我不想谈论政治。
674
00:35:20,868 --> 00:35:23,538
-极限中心出了什么问题？
-看？他甚至不明白。
675
00:35:23,621 --> 00:35:24,622
这取决于你问的是谁。
676
00:35:24,705 --> 00:35:26,624
这就像问，
“宣传有什么问题吗？”
677
00:35:26,707 --> 00:35:28,376
-[安全粉碎]
-[妈妈和弗兰克尖叫]
678
00:35:28,709 --> 00:35:29,710
[弗兰克]艾拉！
679
00:35:32,797 --> 00:35:33,756
我的天啊。
680
00:35:36,425 --> 00:35:38,553
-[叹气]你想让我...
-[妈妈]是的。
681
00:35:41,973 --> 00:35:43,933
[安娜]我……我担心我的孩子们。
682
00:35:44,016 --> 00:35:46,686
而且如果你有孩子的话
我很担心你的孩子。
683
00:35:46,769 --> 00:35:50,189
凭借我所拥有的所有知识
以及所有的经历，
684
00:35:50,273 --> 00:35:52,108
我正在和我的孩子们吵架
685
00:35:52,191 --> 00:35:54,443
他们在手机上的花费
并在计算机上。
686
00:35:54,527 --> 00:35:58,197
我会对我的儿子说：“需要多少小时？
你认为你把钱花在手机上了吗？”
687
00:35:58,281 --> 00:36:01,075
他会说，“大约，半个小时。
半小时了，顶。”
688
00:36:01,159 --> 00:36:04,829
我想说一个多小时，一个半小时。
689
00:36:04,912 --> 00:36:06,789
我看了他的屏幕报告
几周前。
690
00:36:06,873 --> 00:36:08,708
- 3小时45分钟。
-[詹姆斯]那...
691
00:36:11,377 --> 00:36:13,588
我不认为那是...
不，平均每天？
692
00:36:13,671 --> 00:36:15,506
-是的。
-我现在应该去拿吗？
693
00:36:15,590 --> 00:36:19,177
没有一天过去
我没有提醒我的孩子
694
00:36:19,260 --> 00:36:21,762
关于快乐与痛苦的平衡，
695
00:36:21,846 --> 00:36:24,390
关于多巴胺缺乏州，
696
00:36:24,473 --> 00:36:26,267
关于成瘾的风险。
697
00:36:26,350 --> 00:36:27,310
[玛丽]关键时刻。
698
00:36:27,935 --> 00:36:29,687
每天两小时五十分钟。
699
00:36:29,770 --> 00:36:31,772
-让我们来看看。
-事实上，我今天用了很多。
700
00:36:31,856 --> 00:36:33,357
-过去 7 天。
-这可能就是原因。
701
00:36:33,441 --> 00:36:37,361
Instagram，6 小时 13 分钟。
好吧，我的 Instagram 更糟糕。
702
00:36:39,572 --> 00:36:41,991
我的屏幕完全碎了。
703
00:36:42,200 --> 00:36:43,201
谢谢，卡斯。
704
00:36:44,410 --> 00:36:45,995
“谢谢，卡斯”是什么意思？
705
00:36:46,078 --> 00:36:49,040
你总是因为我们的手机而让妈妈感到害怕
当这并不是真正的问题时。
706
00:36:49,373 --> 00:36:51,167
我们吃晚饭不需要手机！
707
00:36:51,250 --> 00:36:53,878
我明白你在说什么。
这没什么大不了的。它不是。
708
00:36:56,047 --> 00:36:58,382
如果事情不是那么大的话
一周内不要使用它。
709
00:36:59,634 --> 00:37:00,593
[本叹气]
710
00:37:01,135 --> 00:37:06,349
是的。是的，实际上，如果你能把
那件事离开了，大约，整整一个星期......
711
00:37:07,725 --> 00:37:09,518
我会给你买一个新屏幕。
712
00:37:10,978 --> 00:37:12,897
-比如，现在开始？
-[妈妈]从现在开始。
713
00:37:15,149 --> 00:37:16,859
-好的。你们达成了协议。
-[妈妈] 好的。
714
00:37:16,943 --> 00:37:19,111
好吧，不过你得把它留在这里，
伙计。
715
00:37:19,862 --> 00:37:21,364
好的，我正在插上它。
716
00:37:22,531 --> 00:37:25,076
让记录显示...我正在后退。
717
00:37:25,159 --> 00:37:25,993
好的。
718
00:37:27,787 --> 00:37:29,413
-你准时了。
-[本]一周。
719
00:37:29,497 --> 00:37:30,331
哦，我的...
720
00:37:31,457 --> 00:37:32,416
你认为他能做到吗？
721
00:37:33,000 --> 00:37:34,252
我不知道。我们拭目以待。
722
00:37:35,002 --> 00:37:36,128
就吃点吧？
723
00:37:44,220 --> 00:37:45,263
一家人聚餐好！
724
00:37:47,682 --> 00:37:49,809
【Tristan】这些科技产品
没有被设计
725
00:37:49,892 --> 00:37:53,896
由正在尝试的儿童心理学家
保护和养育儿童。
726
00:37:53,980 --> 00:37:56,148
他们只是在设计
来制作这些算法
727
00:37:56,232 --> 00:37:58,734
非常擅长推荐
下一个视频给你
728
00:37:58,818 --> 00:38:02,321
或者真的很擅长得到你
拍摄带有滤镜的照片。
729
00:38:15,710 --> 00:38:16,669
[手机铃声]
730
00:38:16,752 --> 00:38:18,879
[特里斯坦] 这不仅仅是
它正在控制
731
00:38:18,963 --> 00:38:20,548
他们关注的地方。
732
00:38:21,173 --> 00:38:26,304
尤其是社交媒体开始挖掘
越来越深入脑干
733
00:38:26,387 --> 00:38:29,765
并接管孩子的自我价值感
和身份。
734
00:38:41,736 --> 00:38:42,903
[通知响起]
735
00:38:52,371 --> 00:38:56,208
[特里斯坦]我们进化到关心
我们部落的其他人是否...
736
00:38:56,751 --> 00:38:59,128
是否对我们有好感
因为这很重要。
737
00:38:59,837 --> 00:39:04,550
但如果我们进化到有意识的话
10,000 个人对我们的看法如何？
738
00:39:04,633 --> 00:39:08,763
我们没有进化
获得社会认可
739
00:39:08,846 --> 00:39:10,348
每五分钟一次。
740
00:39:10,431 --> 00:39:13,142
那根本不是我们所建造的
去体验。
741
00:39:15,394 --> 00:39:19,982
[Chamath] 我们策划我们的生活
围绕着这种完美感
742
00:39:20,733 --> 00:39:23,527
因为我们得到了回报
在这些短期信号中——
743
00:39:23,611 --> 00:39:25,154
爱心、点赞、点赞——
744
00:39:25,237 --> 00:39:28,407
我们将其与价值混为一谈，
我们将其与事实混为一谈。
745
00:39:29,825 --> 00:39:33,120
相反，它到底是什么
是假的，人气脆弱……
746
00:39:33,913 --> 00:39:37,458
这是短期的，这会让你
更何况，还要承认，
747
00:39:37,541 --> 00:39:39,919
在你这样做之前是空的。
748
00:39:41,295 --> 00:39:43,381
因为那样它会迫使你
进入这个恶性循环
749
00:39:43,464 --> 00:39:47,176
你会说，“接下来会发生什么
我现在需要做什么？ 因为我需要它回来。”
750
00:39:48,260 --> 00:39:50,846
考虑一下复合的
二十亿人，
751
00:39:50,930 --> 00:39:54,767
然后想想人们的反应
他人的看法。
752
00:39:54,850 --> 00:39:56,435
这只是一个……实在是太糟糕了。
753
00:39:56,977 --> 00:39:58,229
这真的非常非常糟糕。
754
00:40:00,856 --> 00:40:03,484
[乔纳森]已经有
巨大的增加
755
00:40:03,567 --> 00:40:06,529
在抑郁和焦虑中
对于美国青少年来说
756
00:40:06,612 --> 00:40:10,950
大约开始于...
2011 年至 2013 年间。
757
00:40:11,033 --> 00:40:15,371
10万名少女中的少女人数
在这个国家
758
00:40:15,454 --> 00:40:17,123
每年都有哪些人入院
759
00:40:17,206 --> 00:40:19,917
因为他们割伤了自己
或以其他方式伤害自己，
760
00:40:20,000 --> 00:40:23,921
这个数字相当稳定
直到2010年、2011年左右，
761
00:40:24,004 --> 00:40:25,756
然后它开始一路上升。
762
00:40:28,759 --> 00:40:32,513
对于年龄较大的少女来说，这一比例上升了 62%。
763
00:40:33,848 --> 00:40:38,310
对于青春期前的女孩来说，这一比例上升了 189%。
这几乎是三倍。
764
00:40:40,312 --> 00:40:43,524
更可怕的是，
我们在自杀方面也看到了同样的模式。
765
00:40:44,775 --> 00:40:47,570
年龄较大的少女，15 至 19 岁，
766
00:40:47,653 --> 00:40:49,196
他们上涨了70%
767
00:40:49,280 --> 00:40:51,699
与第一个十年相比
本世纪的。
768
00:40:52,158 --> 00:40:55,077
青春期前的女孩们，
他们一开始的利率非常低，
769
00:40:55,161 --> 00:40:57,663
他们上涨了 151%。
770
00:40:58,831 --> 00:41:01,709
这种模式指向社交媒体。
771
00:41:04,044 --> 00:41:07,214
Z世代，1996年左右出生的孩子，
772
00:41:07,298 --> 00:41:10,342
那些孩子是第一代
历史上
773
00:41:10,426 --> 00:41:12,636
中学时就出现在社交媒体上。
774
00:41:12,720 --> 00:41:14,722
[远处雷声隆隆]
775
00:41:15,890 --> 00:41:17,600
[乔纳森]他们如何度过时间？
776
00:41:19,727 --> 00:41:22,730
他们放学回家，
他们在自己的设备上。
777
00:41:24,315 --> 00:41:29,195
整整一代人更加焦虑，
更加脆弱，更加沮丧。
778
00:41:29,320 --> 00:41:30,529
-[雷声隆隆]
-[艾拉喘息]
779
00:41:30,613 --> 00:41:33,282
[乔纳森]他们不太舒服
承担风险。
780
00:41:34,325 --> 00:41:37,536
他们获得的费率
驾驶执照一直在下降。
781
00:41:38,954 --> 00:41:41,081
数量
谁曾经出去约会过
782
00:41:41,165 --> 00:41:44,251
或有过任何形式的浪漫互动
正在迅速下降。
783
00:41:47,505 --> 00:41:49,715
这是一代人真正的变化。
784
00:41:53,177 --> 00:41:57,306
请记住，对于其中的每一项，
每一次入院，
785
00:41:57,389 --> 00:42:00,267
有一个家庭受到了创伤
并感到震惊。
786
00:42:00,351 --> 00:42:02,353
“天啊，我们的孩子怎么了？”
787
00:42:08,734 --> 00:42:09,693
[艾拉叹气]
788
00:42:19,411 --> 00:42:21,413
[蒂姆] 这对我来说是再平常不过的事了。
789
00:42:22,873 --> 00:42:28,128
这些服务正在害死人……
并导致人们自杀。
790
00:42:29,088 --> 00:42:33,300
我不知道有哪个家长会说：“是的，
我真的希望我的孩子能够长大
791
00:42:33,384 --> 00:42:36,887
感觉被科技设计师操纵了，呃，
792
00:42:36,971 --> 00:42:39,723
操纵他们的注意力，
导致他们无法完成作业，
793
00:42:39,807 --> 00:42:42,560
让他们比较自己
达到不切实际的美丽标准。”
794
00:42:42,643 --> 00:42:44,687
就像，没有人想要那样。 [笑声]
795
00:42:45,104 --> 00:42:46,355
没有人这样做。
796
00:42:46,438 --> 00:42:48,482
我们...我们曾经有这些保护措施。
797
00:42:48,566 --> 00:42:50,943
当孩子们观看时
周六早上的动画片，
798
00:42:51,026 --> 00:42:52,778
我们关心保护儿童。
799
00:42:52,861 --> 00:42:56,574
我们会说：“你不能做广告
以这些方式对这些年龄段的孩子进行教育。”
800
00:42:57,366 --> 00:42:58,784
但如果你选择 YouTube for Kids，
801
00:42:58,867 --> 00:43:02,454
它吞噬了整个部分
注意力经济，
802
00:43:02,538 --> 00:43:04,915
现在所有的孩子都暴露了
转到 YouTube 儿童版。
803
00:43:04,999 --> 00:43:07,710
以及所有这些保护措施
所有这些规定都消失了。
804
00:43:08,210 --> 00:43:10,212
【紧张的器乐演奏】
805
00:43:18,304 --> 00:43:22,141
[特里斯坦]我们正在训练和调理
整个新一代的人...
806
00:43:23,434 --> 00:43:29,148
当我们感到不舒服或孤独时
或不确定或害怕，
807
00:43:29,231 --> 00:43:31,775
我们自己有一个数字奶嘴
808
00:43:32,234 --> 00:43:36,488
这有点削弱我们自己的能力
来处理这个问题。
809
00:43:53,881 --> 00:43:55,674
[Tristan] Photoshop 没有
1,000 名工程师
810
00:43:55,758 --> 00:43:58,969
在屏幕的另一边，
使用通知、使用你的朋友、
811
00:43:59,053 --> 00:44:02,431
使用人工智能来预测将会发生什么
完全让你上瘾，或者让你着迷，
812
00:44:02,514 --> 00:44:04,516
或操纵您，或允许广告商
813
00:44:04,600 --> 00:44:08,437
测试 60,000 种变化
需要弄清楚的文本或颜色
814
00:44:08,520 --> 00:44:11,065
什么是完美的操控
你的想法。
815
00:44:11,148 --> 00:44:14,985
这是一个全新的物种
的权力和影响力。
816
00:44:16,070 --> 00:44:19,156
我...我再说一遍，所用的方法
817
00:44:19,239 --> 00:44:22,785
发挥人的能力
上瘾或受到影响
818
00:44:22,868 --> 00:44:25,204
这次可能会有所不同，
他们可能是不同的。
819
00:44:25,287 --> 00:44:28,749
当报纸出现时，他们就不同了
进来了，印刷机也进来了，
820
00:44:28,832 --> 00:44:31,835
他们是不同的
当电视进来的时候
821
00:44:31,919 --> 00:44:34,004
你拥有三个主要网络并且......
822
00:44:34,463 --> 00:44:36,423
-当时。
-当时。这就是我所说的。
823
00:44:36,507 --> 00:44:38,384
但我说的是这个想法
有一个新的水平
824
00:44:38,467 --> 00:44:42,054
新的水平已经发生
之前有很多次了。
825
00:44:42,137 --> 00:44:45,099
我的意思是，这只是最新的新级别
我们已经看到了。
826
00:44:45,182 --> 00:44:48,727
有这样一个故事，你知道，
“我们只会适应它。
827
00:44:48,811 --> 00:44:51,188
我们将学会如何生活
有了这些设备，
828
00:44:51,271 --> 00:44:53,732
就像我们学会了如何生活一样
和其他一切。”
829
00:44:53,816 --> 00:44:56,694
这错过了什么
这里有什么明显新的东西吗？
830
00:44:57,486 --> 00:45:00,155
也许是最危险的一块
这一切都是事实
831
00:45:00,239 --> 00:45:04,410
它是由技术驱动的
这正在呈指数级增长。
832
00:45:05,869 --> 00:45:09,081
粗略地说，如果你说从，比如，
20世纪60年代至今，
833
00:45:09,873 --> 00:45:12,960
处理能力提高了
大约一万亿次。
834
00:45:13,794 --> 00:45:18,340
我们没有其他任何改进
以接近这个速度。
835
00:45:18,424 --> 00:45:22,177
就像，汽车，你知道，
大约快两倍。
836
00:45:22,261 --> 00:45:25,013
而其他一切几乎都可以忽略不计。
837
00:45:25,347 --> 00:45:27,182
也许最重要的是，
838
00:45:27,266 --> 00:45:31,353
我们的人类——我们的生理学，
我们的大脑根本没有进化。
839
00:45:37,401 --> 00:45:41,488
[特里斯坦] 人类，有思想和身体
以及某种物理层面，
840
00:45:41,947 --> 00:45:43,866
不会从根本上改变。
841
00:45:44,825 --> 00:45:45,868
[模糊的喋喋不休]
842
00:45:47,035 --> 00:45:48,954
[笑]我知道，但是他们...
843
00:45:49,037 --> 00:45:51,623
[继续含糊其辞]
844
00:45:53,584 --> 00:45:54,752
[相机快门声]
845
00:45:56,837 --> 00:46:00,924
[特里斯坦] 我们可以做基因工程
并培养新的人类，
846
00:46:01,008 --> 00:46:05,220
但实事求是地说
你生活在硬件、大脑的内部，
847
00:46:05,304 --> 00:46:07,222
那是有几百万年历史的
848
00:46:07,306 --> 00:46:10,559
然后就是这个屏幕，然后
在屏幕的另一侧，
849
00:46:10,642 --> 00:46:13,562
有这数千名工程师
和超级计算机
850
00:46:13,645 --> 00:46:16,106
有着不同的目标
比你的目标，
851
00:46:16,190 --> 00:46:19,693
那么，谁会在那场比赛中获胜呢？
谁会赢？
852
00:46:25,699 --> 00:46:26,617
我们怎么会输呢？
853
00:46:27,159 --> 00:46:29,828
-我不知道。
-他在哪儿？这是不正常的。
854
00:46:29,912 --> 00:46:32,080
我压垮了他吗
与朋友和家人的内容？
855
00:46:32,164 --> 00:46:34,082
-大概。
- 好吧，也许都是广告的原因。
856
00:46:34,166 --> 00:46:37,795
不，有什么事情非常不对劲。
让我们切换到复活模式。
857
00:46:39,713 --> 00:46:44,051
[Tristan] 当你想到人工智能时，
你知道，人工智能会毁灭世界，
858
00:46:44,134 --> 00:46:47,221
你会看到，就像一个终结者，
你会看到阿诺·施瓦辛格。
859
00:46:47,638 --> 00:46:48,680
我会回来的。
860
00:46:48,764 --> 00:46:50,933
[特里斯坦]你看到无人机，
你认为，就像，
861
00:46:51,016 --> 00:46:52,684
“哦，我们要用人工智能杀人。”
862
00:46:53,644 --> 00:46:59,817
人们怀念的是人工智能
现在已经运行了当今的世界。
863
00:46:59,900 --> 00:47:03,237
甚至谈论“人工智能”
只是一个比喻。
864
00:47:03,320 --> 00:47:09,451
在这些公司，比如……比如谷歌，
有非常非常大的房间，
865
00:47:10,327 --> 00:47:13,121
其中一些在地下，
其中一些在水下，
866
00:47:13,205 --> 00:47:14,498
只是计算机。
867
00:47:14,581 --> 00:47:17,835
成吨成吨的电脑，
一眼望去。
868
00:47:18,460 --> 00:47:20,504
它们是紧密相连的
与彼此
869
00:47:20,587 --> 00:47:22,923
和跑步
极其复杂的程序，
870
00:47:23,006 --> 00:47:26,009
来回发送信息
彼此之间无时无刻不在。
871
00:47:26,802 --> 00:47:28,595
他们会奔跑
许多不同的节目，
872
00:47:28,679 --> 00:47:31,014
许多不同的产品
在那些相同的机器上。
873
00:47:31,348 --> 00:47:33,684
其中一些事情可以描述
作为简单的算法，
874
00:47:33,767 --> 00:47:35,227
有些可以被描述为算法
875
00:47:35,310 --> 00:47:37,521
那些如此复杂的事情
你可以称它们为智慧。
876
00:47:39,022 --> 00:47:39,982
[船员叹息]
877
00:47:40,065 --> 00:47:42,568
[凯茜]
我喜欢说算法就是观点
878
00:47:42,651 --> 00:47:43,777
嵌入代码中...
879
00:47:45,070 --> 00:47:47,656
并且算法并不客观。
880
00:47:48,365 --> 00:47:51,577
算法优化
对成功的某种定义。
881
00:47:52,244 --> 00:47:53,370
所以，如果你能想象，
882
00:47:53,453 --> 00:47:57,124
如果...如果一个商业企业建造
一种算法
883
00:47:57,207 --> 00:47:59,293
他们对成功的定义，
884
00:47:59,835 --> 00:48:01,211
这是商业利益。
885
00:48:01,587 --> 00:48:02,671
通常都是利润。
886
00:48:03,130 --> 00:48:07,384
你给电脑
目标状态“我想要这个结果”
887
00:48:07,467 --> 00:48:10,262
然后计算机本身正在学习
怎么做。
888
00:48:10,345 --> 00:48:12,598
这就是“机器学习”一词的由来
来自。
889
00:48:12,681 --> 00:48:14,850
所以，每一天，情况都会好一点
890
00:48:14,933 --> 00:48:16,977
在选择正确的职位时
以正确的顺序
891
00:48:17,060 --> 00:48:19,438
让你花的时间越来越长
在该产品中。
892
00:48:19,521 --> 00:48:22,232
并且没有人真正理解
他们在做什么
893
00:48:22,316 --> 00:48:23,901
为了实现这一目标。
894
00:48:23,984 --> 00:48:28,238
该算法有自己的想法，
所以即使是一个人写的，
895
00:48:28,906 --> 00:48:30,657
它是以某种方式写的
896
00:48:30,741 --> 00:48:35,037
你建造了机器，
然后机器就会改变自己。
897
00:48:35,120 --> 00:48:37,873
只有极少数人
在这些公司，
898
00:48:37,956 --> 00:48:40,000
在脸书和推特上
和其他公司...
899
00:48:40,083 --> 00:48:43,795
明白的人寥寥无几
这些系统如何工作，
900
00:48:43,879 --> 00:48:46,715
甚至他们也不一定
完全理解
901
00:48:46,798 --> 00:48:49,551
会发生什么
与特定的内容。
902
00:48:49,968 --> 00:48:55,474
所以，作为人类，我们几乎失去了控制
在这些系统上。
903
00:48:55,891 --> 00:48:59,603
因为他们在控制，你知道，
我们看到的信息，
904
00:48:59,686 --> 00:49:02,189
他们更多地控制我们
比我们控制他们。
905
00:49:02,522 --> 00:49:04,733
-[控制台呼呼声]
-【成长AI】交叉引用他
906
00:49:04,816 --> 00:49:07,319
与可比较的
在他的地理区域。
907
00:49:07,402 --> 00:49:09,571
他的心理测量分身。
908
00:49:09,655 --> 00:49:13,700
有13,694人
在他的地区表现得像他一样。
909
00:49:13,784 --> 00:49:16,370
- 他们的流行趋势是什么？
-我们需要一些真正好的东西
910
00:49:16,453 --> 00:49:17,704
为了正确的复活，
911
00:49:17,788 --> 00:49:19,957
鉴于典型的东西
不工作。
912
00:49:20,040 --> 00:49:21,875
就连学校里那个可爱的女孩也不行。
913
00:49:22,334 --> 00:49:25,253
我的分析表明，走向政治
具有极限中心内容
914
00:49:25,337 --> 00:49:28,256
有 62.3% 的机会
的长期参与。
915
00:49:28,340 --> 00:49:29,299
那还不错。
916
00:49:29,383 --> 00:49:32,010
[叹气]这还不够好来领导。
917
00:49:32,302 --> 00:49:35,305
好吧，好吧，我们已经尝试通知他了
关于标记的照片，
918
00:49:35,389 --> 00:49:39,017
邀请函、时事、
甚至是来自丽贝卡的直接消息。
919
00:49:39,101 --> 00:49:42,813
但是用户 01265923010 呢？
920
00:49:42,896 --> 00:49:44,648
是的，本喜欢她所有的帖子。
921
00:49:44,731 --> 00:49:47,776
几个月来，就像，
几乎所有的东西，然后就什么也没有了。
922
00:49:47,859 --> 00:49:50,445
我计算出92.3%的可能性
复活的
923
00:49:50,529 --> 00:49:52,030
并附有关于安娜的通知。
924
00:49:56,535 --> 00:49:57,494
还有她的新朋友。
925
00:49:59,621 --> 00:50:01,623
[诡异的器乐演奏]
926
00:50:10,590 --> 00:50:11,675
[手机震动]
927
00:50:25,689 --> 00:50:27,441
[本]哦，你一定是在开玩笑吧。
928
00:50:32,404 --> 00:50:33,613
呃...[叹气]
929
00:50:35,657 --> 00:50:36,616
好的。
930
00:50:38,869 --> 00:50:40,996
-什么？
-[号角演奏，烟花爆竹]
931
00:50:41,413 --> 00:50:42,789
[鼓掌]嘭！我们回来了！
932
00:50:42,873 --> 00:50:44,374
孩子们，我们还是回去赚钱吧。
933
00:50:44,458 --> 00:50:46,334
是的，并连接本
与整个世界。
934
00:50:46,418 --> 00:50:49,087
我给他访问权限
他可能喜欢的所有信息。
935
00:50:49,755 --> 00:50:53,717
嘿，你们有没有想过，你知道，
就像，饲料对本有好处吗？
936
00:50:57,095 --> 00:50:58,430
-不。
-不。 [轻笑]
937
00:51:00,307 --> 00:51:03,268
-[轻笑]
-[播放“我对你施了咒语”]
938
00:51:17,491 --> 00:51:19,076
♪我对你下了咒♪
939
00:51:25,040 --> 00:51:26,374
♪因为你是我的♪
940
00:51:28,627 --> 00:51:32,089
[发声]♪ 啊！ ♪
941
00:51:34,508 --> 00:51:36,593
♪你最好停止你所做的事情♪
942
00:51:41,181 --> 00:51:42,265
♪我没有说谎♪
943
00:51:44,976 --> 00:51:46,686
♪不，我没有说谎♪
944
00:51:49,981 --> 00:51:51,817
♪你知道我无法忍受♪
945
00:51:53,026 --> 00:51:54,611
♪你到处乱跑♪
946
00:51:55,612 --> 00:51:57,239
♪你更清楚，爸爸♪
947
00:51:58,782 --> 00:52:02,077
♪我受不了了
因为你让我失望 ♪
948
00:52:03,286 --> 00:52:04,121
♪是的，是的♪
949
00:52:06,456 --> 00:52:08,375
♪我对你下了咒♪
950
00:52:12,379 --> 00:52:14,840
♪因为你是我的♪
951
00:52:18,718 --> 00:52:19,845
♪ 你是我的 ♪
952
00:52:20,929 --> 00:52:24,349
[罗杰] 那么，想象一下你在 Facebook 上......
953
00:52:24,766 --> 00:52:29,312
并且你正在有效地玩耍
反对这种人工智能
954
00:52:29,396 --> 00:52:31,314
它知道关于你的一切，
955
00:52:31,398 --> 00:52:34,568
可以预测你的下一步行动，
而你对此一无所知
956
00:52:34,651 --> 00:52:37,404
除了有猫视频
和上面的生日。
957
00:52:37,821 --> 00:52:39,656
这不是一场公平的战斗。
958
00:52:41,575 --> 00:52:43,869
本和杰瑞，是时候出发了，伙计！
959
00:52:48,039 --> 00:52:48,874
[叹气]
960
00:52:51,126 --> 00:52:51,960
本？
961
00:53:01,011 --> 00:53:02,137
[轻轻敲门]
962
00:53:02,679 --> 00:53:04,723
-[卡斯]本。
-[本] 嗯。
963
00:53:05,182 --> 00:53:06,057
快点。
964
00:53:07,225 --> 00:53:08,351
上学时间。 [鼓掌]
965
00:53:08,435 --> 00:53:09,269
我们走吧。
966
00:53:12,189 --> 00:53:13,148
[本叹气]
967
00:53:25,118 --> 00:53:27,120
[兴奋的喋喋不休]
968
00:53:31,374 --> 00:53:33,627
-[科技] 你今天过得怎么样？
-哦，我……我很紧张。
969
00:53:33,710 --> 00:53:35,003
-是吗？
-是的。 [笑声]
970
00:53:37,380 --> 00:53:39,132
[特里斯坦]
我们都在寻找那一刻
971
00:53:39,216 --> 00:53:42,969
当技术压倒一切时
人类的力量和智慧。
972
00:53:43,053 --> 00:53:47,015
什么时候才能跨越奇点
取代我们的工作，比人类更聪明？
973
00:53:48,141 --> 00:53:50,101
但还有更早的时刻...
974
00:53:50,977 --> 00:53:55,315
当科技超越
并克服人性的弱点。
975
00:53:57,484 --> 00:54:01,780
这个点被跨越了
是成瘾的根源，
976
00:54:02,113 --> 00:54:04,741
两极分化、激进化、
愤怒化，
977
00:54:04,824 --> 00:54:06,368
虚荣化，整个事情。
978
00:54:07,702 --> 00:54:09,913
这是压倒人性的，
979
00:54:10,538 --> 00:54:13,500
这是对人性的将死。
980
00:54:20,131 --> 00:54:21,883
-[深深叹息]
-[门打开]
981
00:54:30,558 --> 00:54:31,851
对不起。 [叹气]
982
00:54:37,607 --> 00:54:39,609
-[安全带咔哒声]
-[发动机启动]
983
00:54:41,736 --> 00:54:44,656
[杰伦] 方法之一
我试图让人们理解
984
00:54:45,198 --> 00:54:49,828
来自不同地方的信息有多么错误
就像 Facebook 一样
985
00:54:49,911 --> 00:54:51,454
就是想想维基百科。
986
00:54:52,956 --> 00:54:56,209
当你进入一个页面时，你会看到
和其他人一样。
987
00:54:56,584 --> 00:55:00,297
所以，这是网上为数不多的事情之一
我们至少有共同点。
988
00:55:00,380 --> 00:55:03,425
现在，想象一下
维基百科说，
989
00:55:03,508 --> 00:55:07,178
“我们要给每个人
不同的定制定义，
990
00:55:07,262 --> 00:55:09,472
我们将由人们付钱
为此。”
991
00:55:09,556 --> 00:55:13,435
所以，维基百科会监视你。
维基百科会计算，
992
00:55:13,518 --> 00:55:17,188
“我能做什么
让这个人改变一点点
993
00:55:17,272 --> 00:55:19,899
代表某种商业利益？”
正确的？
994
00:55:19,983 --> 00:55:21,818
然后它会更改条目。
995
00:55:22,444 --> 00:55:24,738
你能想象吗？
嗯，你应该能够，
996
00:55:24,821 --> 00:55:26,823
因为这正是正在发生的事情
在脸书上。
997
00:55:26,906 --> 00:55:28,992
这正是正在发生的事情
在您的 YouTube Feed 中。
998
00:55:29,075 --> 00:55:31,786
当您访问 Google 并输入
“气候变化是，”
999
00:55:31,870 --> 00:55:34,998
你会看到不同的结果
取决于你住在哪里。
1000
00:55:36,166 --> 00:55:38,460
在某些城市，
你会看到它自动完成
1001
00:55:38,543 --> 00:55:40,462
“气候变化是一个骗局”。
1002
00:55:40,545 --> 00:55:42,088
在其他情况下，你会看到
1003
00:55:42,172 --> 00:55:44,841
“气候变化正在造成破坏
自然的。”
1004
00:55:44,924 --> 00:55:48,428
这不是一个函数
关于气候变化的真相是什么
1005
00:55:48,511 --> 00:55:51,097
但关于
您碰巧从哪里进行谷歌搜索
1006
00:55:51,181 --> 00:55:54,100
以及具体的事情
Google 了解您的兴趣。
1007
00:55:54,851 --> 00:55:58,021
甚至两个朋友
彼此如此亲近的人，
1008
00:55:58,104 --> 00:56:00,190
谁拥有几乎完全相同的一套
的朋友，
1009
00:56:00,273 --> 00:56:02,817
他们认为，你知道，
“我要去 Facebook 上查看新闻。
1010
00:56:02,901 --> 00:56:05,403
我会看到完全相同的一组更新。”
1011
00:56:05,487 --> 00:56:06,738
但事实根本不是那样的。
1012
00:56:06,821 --> 00:56:08,448
他们看到了完全不同的世界
1013
00:56:08,531 --> 00:56:10,575
因为他们基于
在这些计算机上计算
1014
00:56:10,658 --> 00:56:12,035
什么对他们每个人来说都是完美的。
1015
00:56:12,118 --> 00:56:14,245
[监视器上吹口哨]
1016
00:56:14,329 --> 00:56:18,416
[罗杰] 思考的方式
这是 27 亿次的《杜鲁门秀》。
1017
00:56:18,500 --> 00:56:21,294
每个人都有自己的现实，
与他们自己的...
1018
00:56:22,670 --> 00:56:23,671
事实。
1019
00:56:23,755 --> 00:56:27,008
你为什么这么认为
呃，杜鲁门从未接近过
1020
00:56:27,092 --> 00:56:30,095
发现真实本质
到目前为止他的世界如何？
1021
00:56:31,054 --> 00:56:34,140
我们接受世界的现实
我们看到了。
1022
00:56:34,224 --> 00:56:35,141
就这么简单。
1023
00:56:36,476 --> 00:56:41,064
久而久之，你就会产生错觉
每个人都同意你的观点，
1024
00:56:41,147 --> 00:56:44,067
因为你的新闻提要中的每个人
听起来就像你一样。
1025
00:56:44,567 --> 00:56:49,072
一旦你处于那种状态，
事实证明你很容易被操纵
1026
00:56:49,155 --> 00:56:51,741
就像你会被操纵一样
由魔术师。
1027
00:56:51,825 --> 00:56:55,370
魔术师向您展示纸牌戏法
并说：“选一张牌，任何牌。”
1028
00:56:55,453 --> 00:56:58,164
你没有意识到的
他们已经做了一个设置，
1029
00:56:58,456 --> 00:57:00,583
所以你选择这张卡
他们希望你选择。
1030
00:57:00,667 --> 00:57:03,169
这就是 Facebook 的运作方式。
Facebook 坐在那里说，
1031
00:57:03,253 --> 00:57:06,172
“嘿，你选你的朋友吧。
您选择您关注的链接。”
1032
00:57:06,256 --> 00:57:08,716
但这都是无稽之谈。
这就像魔术师一样。
1033
00:57:08,800 --> 00:57:11,302
Facebook 负责您的新闻推送。
1034
00:57:11,386 --> 00:57:14,514
我们都只是在操作
基于一组不同的事实。
1035
00:57:14,597 --> 00:57:16,474
当这种情况大规模发生时，
1036
00:57:16,558 --> 00:57:20,645
你无法再考虑
甚至消费信息
1037
00:57:20,728 --> 00:57:23,690
与那个世界观相矛盾
你所创造的。
1038
00:57:23,773 --> 00:57:26,443
这意味着我们实际上并没有
目标，
1039
00:57:26,526 --> 00:57:28,319
有建设性的个人。 [笑声]
1040
00:57:28,403 --> 00:57:32,449
[人群高呼]睁开你的眼睛，
不要相信谎言！打开...
1041
00:57:32,532 --> 00:57:34,701
[贾斯汀] 然后你看
在另一边，
1042
00:57:35,243 --> 00:57:38,746
你开始思考，
“那些人怎么可以这么蠢呢？
1043
00:57:38,830 --> 00:57:42,125
查看所有这些信息
我经常看到。
1044
00:57:42,208 --> 00:57:44,627
他们怎么看不到
同样的信息？”
1045
00:57:44,711 --> 00:57:47,297
答案是：“他们没有看到
相同的信息。”
1046
00:57:47,380 --> 00:57:50,800
[人群继续高呼]
请擦亮眼睛，不要相信谎言！
1047
00:57:50,884 --> 00:57:52,010
[含糊不清地喊叫]
1048
00:57:52,093 --> 00:57:55,472
-[采访者]共和党人是什么样的？
- 没有任何线索的人。
1049
00:57:55,555 --> 00:57:58,933
民主党是一个犯罪集团，
不是一个真正的政党。
1050
00:57:59,017 --> 00:58:03,188
皮尤研究中心一项新的大型研究
10,000 名美国成年人
1051
00:58:03,271 --> 00:58:05,315
发现我们比以往任何时候都更加分裂，
1052
00:58:05,398 --> 00:58:09,152
个人和政治两极分化
创20年新高。
1053
00:58:11,738 --> 00:58:14,199
[专家] 你有
超过三分之一的共和党人表示
1054
00:58:14,282 --> 00:58:16,826
民主党是一个威胁
对国家、
1055
00:58:16,910 --> 00:58:20,580
超过四分之一的民主党人表示
共和党也是如此。
1056
00:58:20,663 --> 00:58:22,499
这么多的问题
我们正在讨论的
1057
00:58:22,582 --> 00:58:24,417
就像围绕政治两极分化
1058
00:58:24,501 --> 00:58:28,046
有线电视上确实存在。
1059
00:58:28,129 --> 00:58:31,007
媒体也有同样的问题，
1060
00:58:31,090 --> 00:58:33,343
总的来说，他们的商业模式
1061
00:58:33,426 --> 00:58:35,762
是他们在出卖我们的注意力
给广告商。
1062
00:58:35,845 --> 00:58:38,890
互联网只是一个新的、
甚至更有效的方法来做到这一点。
1063
00:58:40,141 --> 00:58:44,145
[Guillaume] 我在 YouTube 工作
关于 YouTube 推荐。
1064
00:58:44,229 --> 00:58:47,148
让我担心的是算法
我从事的工作
1065
00:58:47,232 --> 00:58:50,401
实际上是在增加极化
在社会中。
1066
00:58:50,485 --> 00:58:53,112
但从观看时长来看，
1067
00:58:53,196 --> 00:58:57,617
这种极化非常有效
让人们保持在线状态。
1068
00:58:58,785 --> 00:59:00,870
唯一的原因
这些老师正在教这些东西
1069
00:59:00,954 --> 00:59:02,288
是因为他们得到报酬。
1070
00:59:02,372 --> 00:59:04,374
-这绝对是荒谬的。
-[卡斯]嘿，本吉。
1071
00:59:04,916 --> 00:59:06,292
今天没有足球训练吗？
1072
00:59:06,376 --> 00:59:08,795
哦，有。我只是在追赶
关于一些新闻的事情。
1073
00:59:08,878 --> 00:59:11,506
[vlogger] 做研究。任何东西
从极端中心摆动--
1074
00:59:11,589 --> 00:59:14,008
不会准确地称呼这些东西
你正在看新闻。
1075
00:59:15,552 --> 00:59:18,846
你总是在谈论有多混乱
一切都是。他们也是。
1076
00:59:19,305 --> 00:59:21,140
但那些东西只是宣传。
1077
00:59:21,224 --> 00:59:24,060
[vlogger] 两者都不是真的。
一切都是为了有意义。
1078
00:59:24,769 --> 00:59:26,938
本，我是认真的。
那东西对你不好。
1079
00:59:27,021 --> 00:59:29,232
-你应该去参加足球训练。
-[本] 嗯。
1080
00:59:31,109 --> 00:59:31,943
[卡斯叹气]
1081
00:59:35,154 --> 00:59:37,490
我分享这些东西是因为我关心。
1082
00:59:37,574 --> 00:59:41,077
我担心你被误导了，
这不行。好吧？
1083
00:59:41,160 --> 00:59:43,121
[纪尧姆] 人们认为
算法设计
1084
00:59:43,204 --> 00:59:46,833
给他们真正想要的东西，
但事实并非如此。
1085
00:59:46,916 --> 00:59:52,589
该算法实际上是试图找到
几个非常强大的兔子洞，
1086
00:59:52,672 --> 00:59:56,217
试图找到哪个兔子洞
最接近您的兴趣。
1087
00:59:56,301 --> 00:59:59,262
然后如果你开始观看
其中一个视频，
1088
00:59:59,846 --> 01:00:02,223
然后它会推荐它
一遍又一遍。
1089
01:00:02,682 --> 01:00:04,934
这不像是任何人想要的
发生。
1090
01:00:05,018 --> 01:00:07,812
只是这就是
推荐系统正在做什么。
1091
01:00:07,895 --> 01:00:10,815
以至于凯里·欧文，
著名篮球运动员，
1092
01:00:11,065 --> 01:00:14,235
呃，说他相信地球是平的，
他后来道歉了
1093
01:00:14,319 --> 01:00:16,154
因为他责备它
在 YouTube 兔子洞上。
1094
01:00:16,487 --> 01:00:18,656
你知道，就像，
您点击 YouTube 点击
1095
01:00:18,740 --> 01:00:21,534
它就像，
兔子洞有多深。
1096
01:00:21,618 --> 01:00:23,369
当他后来接受 NPR 采访时说道：
1097
01:00:23,453 --> 01:00:25,955
“我很抱歉相信这一点。
我不想误导人们，”
1098
01:00:26,039 --> 01:00:28,291
教室里一群学生
接受采访时表示，
1099
01:00:28,374 --> 01:00:29,667
“地球圆论者找到了他。”
1100
01:00:29,751 --> 01:00:30,960
[观众笑声]
1101
01:00:31,044 --> 01:00:33,963
地平说阴谋论
被推荐
1102
01:00:34,047 --> 01:00:37,634
数亿次
通过算法。
1103
01:00:37,717 --> 01:00:43,890
人们很容易认为这只是
一些愚蠢的人被说服了，
1104
01:00:43,973 --> 01:00:46,893
但算法变得越来越聪明
并且一天比一天聪明。
1105
01:00:46,976 --> 01:00:50,188
所以，今天，他们正在说服人们
地球是平的，
1106
01:00:50,271 --> 01:00:53,983
但明天，他们会说服你
一些虚假的东西。
1107
01:00:54,317 --> 01:00:57,820
[记者]11月7日，
主题标签“Pizzagate”诞生了。
1108
01:00:57,904 --> 01:00:59,197
[蕾妮] 披萨门...
1109
01:01:00,114 --> 01:01:01,449
[咔嚓一下舌头]哦，孩子。
1110
01:01:01,532 --> 01:01:02,533
呃……[笑]
1111
01:01:03,159 --> 01:01:06,913
我仍然不是百分百确定
这最初是如何发生的，
1112
01:01:06,996 --> 01:01:12,377
但点披萨的想法
意思是命令一个被贩运的人。
1113
01:01:12,460 --> 01:01:15,046
随着 Facebook 上的群组规模越来越大，
1114
01:01:15,129 --> 01:01:19,967
Facebook 的推荐引擎
开始向普通用户推荐
1115
01:01:20,051 --> 01:01:21,761
他们加入 Pizzagate 团体。
1116
01:01:21,844 --> 01:01:27,392
因此，如果用户是，例如，
抗疫苗或相信化学痕迹
1117
01:01:27,475 --> 01:01:30,645
或已向 Facebook 的算法表明
以某种方式
1118
01:01:30,728 --> 01:01:33,398
他们倾向于相信
在阴谋论中，
1119
01:01:33,481 --> 01:01:36,859
Facebook 的推荐引擎
将为他们提供披萨门团体服务。
1120
01:01:36,943 --> 01:01:41,072
最终，这件事达到了顶峰
一名男子带着枪出现，
1121
01:01:41,155 --> 01:01:44,617
决定他要去解放
地下室里的孩子们
1122
01:01:44,701 --> 01:01:46,911
披萨店的
那个没有地下室。
1123
01:01:46,994 --> 01:01:48,538
[警官1] 你在做什么？
1124
01:01:48,871 --> 01:01:50,498
[男子] 确保
那里什么也没有。
1125
01:01:50,581 --> 01:01:52,458
-[警官1]关于？
-[男子]恋童癖戒指。
1126
01:01:52,542 --> 01:01:54,293
-[警官 1] 什么？
-[男子]恋童癖戒指。
1127
01:01:54,377 --> 01:01:55,962
[警官 2] 他正在谈论 Pizzagate。
1128
01:01:56,045 --> 01:02:00,216
这是阴谋论的一个例子
1129
01:02:00,299 --> 01:02:03,678
那个被传播的
跨所有社交网络。
1130
01:02:03,761 --> 01:02:06,097
社交网络的
自己的推荐引擎
1131
01:02:06,180 --> 01:02:07,974
自愿将其提供给人们
1132
01:02:08,057 --> 01:02:10,643
谁从未寻找过
他们生活中的“Pizzagate”这个词。
1133
01:02:12,437 --> 01:02:14,439
[特里斯坦]有一项研究，麻省理工学院的一项研究，
1134
01:02:14,522 --> 01:02:19,819
Twitter 上的假新闻传播
比真实新闻快六倍。
1135
01:02:19,902 --> 01:02:21,863
那个世界会是什么样子
1136
01:02:21,946 --> 01:02:24,741
当一个人有六倍的优势时
到另一个？
1137
01:02:25,283 --> 01:02:27,660
你可以想象
这些东西有点像...
1138
01:02:27,744 --> 01:02:31,706
他们...他们倾斜地板
人类行为的……。
1139
01:02:31,789 --> 01:02:34,709
它们使某些行为变得更加困难
还有一些更容易。
1140
01:02:34,792 --> 01:02:37,420
而你永远是自由的
步行上山，
1141
01:02:37,503 --> 01:02:38,796
但这样做的人较少，
1142
01:02:38,880 --> 01:02:43,092
所以，在规模上，在社会规模上，
你真的只是在倾斜地板
1143
01:02:43,176 --> 01:02:45,970
并改变数十亿人的想法
并做。
1144
01:02:46,053 --> 01:02:52,018
我们创建了一个系统
偏向虚假信息。
1145
01:02:52,643 --> 01:02:54,437
不是因为我们想要，
1146
01:02:54,520 --> 01:02:58,816
但由于虚假信息使得
公司更多的钱
1147
01:02:59,400 --> 01:03:01,319
比真相。事实很无聊。
1148
01:03:01,986 --> 01:03:04,489
这是一种以营利为目的的虚假信息
商业模式。
1149
01:03:04,906 --> 01:03:08,159
你允许的越多，你就越赚钱
不受管制的消息
1150
01:03:08,701 --> 01:03:11,287
以最优惠的价格联系任何人。
1151
01:03:11,662 --> 01:03:13,956
因为气候变化？是的。
1152
01:03:14,040 --> 01:03:16,751
这是一个骗局。是的，这是真的。
这就是重点。
1153
01:03:16,834 --> 01:03:20,046
他们谈论得越多
他们越分裂我们，
1154
01:03:20,129 --> 01:03:22,423
他们的权力越大，
更多...
1155
01:03:22,507 --> 01:03:25,468
[Tristan] Facebook 拥有数万亿美元
这些新闻提要帖子。
1156
01:03:26,552 --> 01:03:29,180
他们无法知道什么是真实的
或者什么是真实的...
1157
01:03:29,972 --> 01:03:33,726
这就是为什么这次谈话
现在非常关键。
1158
01:03:33,810 --> 01:03:37,021
[记者 1]这不仅仅是 COVID-19
传播速度很快。
1159
01:03:37,104 --> 01:03:40,191
网上存在大量错误信息
关于病毒。
1160
01:03:40,274 --> 01:03:41,818
[记者2]概念
饮用水
1161
01:03:41,901 --> 01:03:43,694
将从您的系统中清除冠状病毒
1162
01:03:43,778 --> 01:03:47,490
是有关该病毒的几个误区之一
在社交媒体上流传。
1163
01:03:47,573 --> 01:03:50,451
[自动语音]政府计划
此事件创建了病毒，
1164
01:03:50,535 --> 01:03:53,621
并进行了模拟
各国将如何反应。
1165
01:03:53,955 --> 01:03:55,581
冠状病毒是一个……骗局。
1166
01:03:56,165 --> 01:03:57,959
[男子] SARS，冠状病毒。
1167
01:03:58,376 --> 01:04:01,045
并看看它是什么时候制作的。 2018.
1168
01:04:01,128 --> 01:04:03,798
我认为美国政府已经开始
这狗屎。
1169
01:04:04,215 --> 01:04:09,095
没有人生病。没有人生病。
没有人认识任何生病的人。
1170
01:04:09,512 --> 01:04:13,015
也许政府正在使用
以冠状病毒为借口
1171
01:04:13,099 --> 01:04:15,643
让每个人都呆在里面
因为有其他事情正在发生。
1172
01:04:15,726 --> 01:04:18,020
新冠病毒不会杀人，
1173
01:04:18,104 --> 01:04:20,940
这是5G辐射
他们正在抽出。
1174
01:04:21,023 --> 01:04:22,525
[人群喊叫]
1175
01:04:22,608 --> 01:04:24,944
[特里斯坦]
我们正受到谣言的轰炸。
1176
01:04:25,403 --> 01:04:28,823
人们正在爆炸
实际的物理手机信号塔。
1177
01:04:28,906 --> 01:04:32,201
我们看到俄罗斯和中国散布谣言
和阴谋论。
1178
01:04:32,285 --> 01:04:35,246
[记者3]今天早上，
乌克兰的恐慌和抗议......
1179
01:04:35,329 --> 01:04:38,916
[特里斯坦]人们不知道什么是真实的，
现在这是生死攸关的问题。
1180
01:04:39,876 --> 01:04:42,628
[女]那些正在传播的来源
冠状病毒错误信息
1181
01:04:42,712 --> 01:04:45,798
已经积累了
大约 5200 万次参与。
1182
01:04:45,882 --> 01:04:50,094
你说的是银溶液
会有效的。
1183
01:04:50,177 --> 01:04:54,140
好吧，假设它还没有经过测试
关于这种冠状病毒毒株，但是...
1184
01:04:54,223 --> 01:04:57,226
[特里斯坦]我们在新冠疫情中看到了什么
只是一个极端版本
1185
01:04:57,310 --> 01:05:00,521
正在发生的事情
整个信息生态系统。
1186
01:05:00,938 --> 01:05:05,026
社交媒体放大了指数级的八卦
和指数传闻
1187
01:05:05,109 --> 01:05:07,111
说到重点
我们不知道真相是什么，
1188
01:05:07,194 --> 01:05:08,946
无论我们关心什么问题。
1189
01:05:15,161 --> 01:05:16,579
[老师]他发现了这一点。
1190
01:05:16,662 --> 01:05:18,664
[继续含糊不清地讲课]
1191
01:05:19,874 --> 01:05:21,292
[丽贝卡低声说]本。
1192
01:05:26,130 --> 01:05:28,257
-你还在队里吗？
-[本] 嗯嗯。
1193
01:05:30,384 --> 01:05:32,678
[丽贝卡] 好吧，好吧，
练习前我要吃点零食
1194
01:05:32,762 --> 01:05:34,430
如果你...想来的话。
1195
01:05:35,640 --> 01:05:36,515
[本] 嗯？
1196
01:05:36,974 --> 01:05:38,601
[丽贝卡]你知道，没关系。
1197
01:05:38,684 --> 01:05:40,686
[脚步声渐渐消失]
1198
01:05:45,066 --> 01:05:47,526
[vlogger] 十分之九的人
现在不满意。
1199
01:05:47,610 --> 01:05:50,613
欧盟委员会就像任何政治运动
在历史上，当你思考它时。
1200
01:05:50,696 --> 01:05:54,492
我们站起来了，我们......
我们正在对抗这种噪音。
1201
01:05:54,575 --> 01:05:57,036
你们是我的人民。我相信你们。
1202
01:05:59,246 --> 01:06:02,583
- 极限中心的内容非常精彩。
-他非常喜欢它。
1203
01:06:02,667 --> 01:06:03,626
进行拍卖。
1204
01:06:04,627 --> 01:06:08,547
840 名投标人。他以 4.35 美分的价格出售
给武器制造商。
1205
01:06:08,631 --> 01:06:10,800
让我们宣传其中一些活动。
1206
01:06:10,883 --> 01:06:13,511
他的地理区域即将举行的集会
本周晚些时候。
1207
01:06:13,594 --> 01:06:15,179
我也有一个新的视频博主。
1208
01:06:15,262 --> 01:06:16,263
[笑声]
1209
01:06:17,765 --> 01:06:22,979
而且......而且，老实说，我告诉你，
我愿意不惜一切代价。
1210
01:06:23,062 --> 01:06:24,939
我的意思是无论如何。
1211
01:06:32,154 --> 01:06:33,197
-订阅...
-[卡斯]本？
1212
01:06:33,280 --> 01:06:35,908
...也回来
因为我告诉你，你...
1213
01:06:35,992 --> 01:06:38,869
-[敲门]
-...我即将迎来一些真正的大事。
1214
01:06:38,953 --> 01:06:40,162
一些真正的大事。
1215
01:06:40,788 --> 01:06:45,292
[Roger] Facebook 的问题之一
作为说服的工具，
1216
01:06:45,793 --> 01:06:47,920
这可能是有史以来最伟大的事情。
1217
01:06:48,004 --> 01:06:52,508
现在，想象一下这在手中意味着什么
独裁者或独裁者的。
1218
01:06:53,718 --> 01:06:57,638
如果你想控制人口
你的国家，
1219
01:06:57,722 --> 01:07:01,308
从来没有一个工具
与 Facebook 一样有效。
1220
01:07:04,937 --> 01:07:07,398
[辛西娅]
一些最令人不安的影响
1221
01:07:07,481 --> 01:07:10,985
政府和其他不良行为者
将社交媒体武器化，
1222
01:07:11,235 --> 01:07:13,612
嗯，是它导致了
造成真实的、线下的伤害。
1223
01:07:13,696 --> 01:07:15,072
我认为最突出的例子
1224
01:07:15,156 --> 01:07:17,658
这引起了很多媒体的关注
这就是缅甸发生的事情。
1225
01:07:19,243 --> 01:07:21,203
在缅甸，
当人们想到互联网时
1226
01:07:21,287 --> 01:07:22,913
他们正在考虑的是Facebook。
1227
01:07:22,997 --> 01:07:25,916
而经常发生的事情是
当人们购买手机时，
1228
01:07:26,000 --> 01:07:29,920
手机店老板实际上会
为他们预加载 Facebook
1229
01:07:30,004 --> 01:07:31,505
并为他们开设账户。
1230
01:07:31,589 --> 01:07:34,884
所以当人们拿到手机时
他们打开的第一件事
1231
01:07:34,967 --> 01:07:37,595
他们唯一知道如何打开
是脸书。
1232
01:07:38,179 --> 01:07:41,891
好吧，一个新的重磅调查
暴露了 Facebook 日益严重的困境
1233
01:07:41,974 --> 01:07:43,809
解决缅甸的仇恨言论问题。
1234
01:07:43,893 --> 01:07:46,020
[人群喊叫]
1235
01:07:46,103 --> 01:07:49,190
Facebook确实给了军方
和其他坏演员
1236
01:07:49,273 --> 01:07:51,776
操纵舆论的新方式
1237
01:07:51,859 --> 01:07:55,529
并帮助煽动暴力
反对罗兴亚穆斯林
1238
01:07:55,613 --> 01:07:57,406
其中包括大规模屠杀，
1239
01:07:58,115 --> 01:07:59,867
整个村庄被烧毁，
1240
01:07:59,950 --> 01:08:03,704
大规模强奸和其他严重犯罪
反人类
1241
01:08:03,788 --> 01:08:04,955
现在已导致
1242
01:08:05,039 --> 01:08:08,209
700,000 罗兴亚穆斯林
不得不逃离这个国家。
1243
01:08:11,170 --> 01:08:14,799
这不是
那些积极主动的宣传人员
1244
01:08:14,882 --> 01:08:16,550
以前不存在。
1245
01:08:16,634 --> 01:08:19,762
平台使之成为可能
1246
01:08:19,845 --> 01:08:23,724
传播操纵性叙事
非常轻松，
1247
01:08:23,808 --> 01:08:25,434
而且没有很多钱。
1248
01:08:25,518 --> 01:08:27,812
如果我想操纵选举
1249
01:08:27,895 --> 01:08:30,564
我现在可以进入
Facebook 上的一个阴谋论小组，
1250
01:08:30,648 --> 01:08:32,233
我可以找到 100 个人
1251
01:08:32,316 --> 01:08:34,443
谁相信
地球是完全平坦的
1252
01:08:34,860 --> 01:08:37,780
并认为这都是阴谋论
我们登陆月球，
1253
01:08:37,863 --> 01:08:41,450
我可以告诉 Facebook，
“给我 1000 个看起来像这样的用户。”
1254
01:08:42,118 --> 01:08:46,080
Facebook 会很乐意向我发送
成千上万与他们相似的用户
1255
01:08:46,163 --> 01:08:49,250
我现在可以击中
以及更多的阴谋论。
1256
01:08:50,376 --> 01:08:53,087
-[按钮点击]
- 售价为 3.4 美分一次展示。
1257
01:08:53,379 --> 01:08:56,382
-新的 EC 视频进行推广。
-[广告人工智能]又一个广告出现了。
1258
01:08:58,509 --> 01:09:00,928
[贾斯汀] 算法
和操纵性的政客
1259
01:09:01,011 --> 01:09:02,138
变得如此专家
1260
01:09:02,221 --> 01:09:04,056
在学习如何触发我们时，
1261
01:09:04,140 --> 01:09:08,352
非常擅长制造假新闻
我们吸收它，就好像它是现实一样，
1262
01:09:08,435 --> 01:09:10,813
让我们相信
那些谎言。
1263
01:09:10,896 --> 01:09:12,606
就好像我们有
控制越来越少
1264
01:09:12,690 --> 01:09:14,150
我们是谁以及我们相信什么。
1265
01:09:14,233 --> 01:09:16,235
[不祥的器乐演奏]
1266
01:09:31,375 --> 01:09:32,835
[vlogger] ...这样他们就可以选择立场。
1267
01:09:32,918 --> 01:09:34,879
这里有谎言，
那里有谎言。
1268
01:09:34,962 --> 01:09:36,338
这样他们就可以保留权力，
1269
01:09:36,422 --> 01:09:39,967
-这样他们就可以控制一切。
-[警笛鸣响]
1270
01:09:40,050 --> 01:09:42,553
[vlogger] 他们可以控制我们的思想，
1271
01:09:42,636 --> 01:09:46,390
-这样他们就可以保守秘密。
-[人群高呼]
1272
01:09:48,517 --> 01:09:50,895
[特里斯坦]想象一个世界
没有人相信任何真实的事情。
1273
01:09:52,897 --> 01:09:55,649
大家都相信
政府对他们撒谎。
1274
01:09:56,317 --> 01:09:58,444
一切都是阴谋论。
1275
01:09:58,527 --> 01:10:01,197
“我不应该相信任何人。
我讨厌对方。”
1276
01:10:01,280 --> 01:10:02,698
这就是这一切的发展方向。
1277
01:10:02,781 --> 01:10:06,160
欧洲的政治地震
继续轰鸣。
1278
01:10:06,243 --> 01:10:08,412
这次是在意大利和西班牙。
1279
01:10:08,495 --> 01:10:11,999
[记者]总体来说，欧洲的传统，
中间派联盟失去多数席位
1280
01:10:12,082 --> 01:10:15,002
最右边
极左民粹主义政党取得了进展。
1281
01:10:15,085 --> 01:10:16,086
[男人喊道]
1282
01:10:16,170 --> 01:10:17,504
[人群高呼]
1283
01:10:19,757 --> 01:10:20,591
备份。
1284
01:10:21,300 --> 01:10:22,509
-[无线电嘟嘟声]
-好吧，我们走吧。
1285
01:10:24,845 --> 01:10:26,847
[警笛鸣响]
1286
01:10:28,390 --> 01:10:31,268
[记者]这些账户
有意地、特别地尝试
1287
01:10:31,352 --> 01:10:34,355
-在香港制造政治不和。
-[人群大喊]
1288
01:10:36,440 --> 01:10:37,399
[叹气]
1289
01:10:38,609 --> 01:10:40,361
-好吧，本。
-[车门锁]
1290
01:10:42,863 --> 01:10:45,032
一个国家是什么样子的
1291
01:10:45,115 --> 01:10:48,410
这就是 Facebook 的全部饮食
和社交媒体？
1292
01:10:48,953 --> 01:10:50,871
民主很快崩溃了。
1293
01:10:50,955 --> 01:10:51,830
六个月。
1294
01:10:51,914 --> 01:10:53,791
[记者 1] 芝加哥的混乱之后，
1295
01:10:53,874 --> 01:10:57,086
抗议者之间发生暴力冲突
和支持者...
1296
01:10:58,003 --> 01:11:01,632
[记者2]民主面临
信任危机。
1297
01:11:01,715 --> 01:11:04,343
我们看到的是全球性的攻击
关于民主。
1298
01:11:04,426 --> 01:11:05,427
[人群喊叫]
1299
01:11:05,511 --> 01:11:07,930
[Renee] 大多数国家
目标国家是
1300
01:11:08,013 --> 01:11:09,723
进行民主选举。
1301
01:11:10,641 --> 01:11:12,518
[特里斯坦]这种情况正在大规模发生。
1302
01:11:12,601 --> 01:11:15,562
通过国家行为者，
拥有数百万美元的人说，
1303
01:11:15,646 --> 01:11:18,524
“我想破坏肯尼亚的稳定。
我想破坏喀麦隆的稳定。
1304
01:11:18,607 --> 01:11:20,651
哦，安哥拉？只需要花这么多钱。”
1305
01:11:20,734 --> 01:11:23,362
[记者]一次非同寻常的选举
周日在巴西举行。
1306
01:11:23,445 --> 01:11:25,823
通过已启动的活动
通过社交媒体。
1307
01:11:25,906 --> 01:11:29,702
[人群用葡萄牙语高呼]
1308
01:11:31,036 --> 01:11:33,956
[Tristan] 我们在科技行业
已经创建了工具
1309
01:11:34,039 --> 01:11:37,418
破坏稳定
并侵蚀社会结构
1310
01:11:37,501 --> 01:11:40,254
在每个国家，同时在任何地方。
1311
01:11:40,337 --> 01:11:44,508
德国、西班牙、法国都有这个，
巴西、澳大利亚。
1312
01:11:44,591 --> 01:11:47,261
一些最“发达国家”
在世界上
1313
01:11:47,344 --> 01:11:49,221
现在正在互相内爆，
1314
01:11:49,305 --> 01:11:50,931
它们有什么共同点？
1315
01:11:51,974 --> 01:11:52,975
知道你现在所知道的，
1316
01:11:53,058 --> 01:11:56,312
你认为 Facebook 受到了影响吗
2016年选举结果如何？
1317
01:11:56,770 --> 01:11:58,814
[马克·扎克伯格]
哦，这……这很难。
1318
01:11:58,897 --> 01:12:00,691
你知道，这是...
1319
01:12:01,275 --> 01:12:04,653
现实是，嗯，就在那里
有这么多不同的力量在发挥作用。
1320
01:12:04,737 --> 01:12:07,865
Facebook、Twitter 的代表，
和谷歌重返国会山
1321
01:12:07,948 --> 01:12:09,450
第二天作证
1322
01:12:09,533 --> 01:12:12,578
关于俄罗斯的干涉
在2016年的选举中。
1323
01:12:12,661 --> 01:12:17,291
操纵
第三方的行为不是黑客行为。
1324
01:12:18,500 --> 01:12:21,462
正确的？俄罗斯人没有入侵 Facebook。
1325
01:12:21,545 --> 01:12:24,965
他们所做的是使用工具
Facebook 创建的
1326
01:12:25,049 --> 01:12:27,843
对于合法的广告商
和合法用户，
1327
01:12:27,926 --> 01:12:30,346
他们应用了它
达到邪恶的目的。
1328
01:12:32,014 --> 01:12:34,391
[特里斯坦]
这就像遥控战争。
1329
01:12:34,475 --> 01:12:36,602
一国可以操纵另一国
1330
01:12:36,685 --> 01:12:39,229
没有实际入侵
它的物理边界。
1331
01:12:39,605 --> 01:12:42,232
[记者 1] 我们看到了暴力图像。
它似乎是一个垃圾箱
1332
01:12:42,316 --> 01:12:43,317
被推来推去...
1333
01:12:43,400 --> 01:12:46,028
[特里斯坦] 但事实并非如此
关于您想投票给谁。
1334
01:12:46,362 --> 01:12:50,574
这是关于播下彻底混乱的种子
以及社会的分裂。
1335
01:12:50,657 --> 01:12:53,035
[记者2]现在，
这是在亨廷顿海滩。游行...
1336
01:12:53,118 --> 01:12:54,870
[特里斯坦] 这是关于制作两侧
1337
01:12:54,953 --> 01:12:56,413
谁再也听不到彼此的声音
1338
01:12:56,497 --> 01:12:58,123
谁不想听到彼此的声音
不再，
1339
01:12:58,207 --> 01:12:59,875
谁不再信任彼此了。
1340
01:12:59,958 --> 01:13:03,212
[记者3]这是一座城市
仇恨被暴露的地方
1341
01:13:03,295 --> 01:13:05,464
并转化为种族暴力。
1342
01:13:05,547 --> 01:13:07,549
[人群喊叫]
1343
01:13:09,009 --> 01:13:11,178
[隐隐约约的喊叫]
1344
01:13:12,471 --> 01:13:14,014
[男人咕哝]
1345
01:13:17,851 --> 01:13:20,062
[警笛鸣响]
1346
01:13:20,145 --> 01:13:20,979
[卡斯] 本！
1347
01:13:21,605 --> 01:13:22,439
卡桑德拉！
1348
01:13:22,981 --> 01:13:23,816
-卡斯！
-本！
1349
01:13:23,899 --> 01:13:25,484
[警官1] 过来！过来！
1350
01:13:27,486 --> 01:13:31,156
举起双臂。举起双臂。
跪下。现在，下来。
1351
01:13:31,240 --> 01:13:32,491
[人群继续喊叫]
1352
01:13:36,120 --> 01:13:37,204
-[警官2]冷静--
-本！
1353
01:13:37,287 --> 01:13:38,664
[警官2] 嘿！举起手来！
1354
01:13:39,623 --> 01:13:41,750
回转。在地面上。 在地上！
1355
01:13:43,710 --> 01:13:46,463
-[人群回声]
-【忧郁的钢琴曲演奏】
1356
01:13:51,969 --> 01:13:54,388
[警笛继续哀号]
1357
01:13:56,723 --> 01:14:00,018
[Tristan] 我们想要出售这个系统吗
出价最高者？
1358
01:14:01,437 --> 01:14:05,399
为了让民主完全被出售，
在那里你可以触及任何你想要的想法，
1359
01:14:05,482 --> 01:14:09,069
针对特定人群撒谎，
并制造文化战争？
1360
01:14:09,236 --> 01:14:10,237
我们想要那个吗？
1361
01:14:14,700 --> 01:14:16,577
[马可·卢比奥] 我们是一个由人民组成的国家......
1362
01:14:16,952 --> 01:14:18,871
不再互相说话。
1363
01:14:19,872 --> 01:14:23,000
我们是一个人民的国家
那些不再与人成为朋友的人
1364
01:14:23,083 --> 01:14:25,461
因为他们投票给了谁
在上次选举中。
1365
01:14:25,878 --> 01:14:28,422
我们是一个人民的国家
谁孤立了我们自己
1366
01:14:28,505 --> 01:14:30,966
只观看频道
这告诉我们我们是对的。
1367
01:14:32,259 --> 01:14:36,597
我今天在这里要传达的信息是部落主义
正在毁掉我们。
1368
01:14:37,347 --> 01:14:39,183
它正在撕裂我们的国家。
1369
01:14:40,267 --> 01:14:42,811
对于心智正常的成年人来说，这是没有办法采取行动的。
1370
01:14:43,187 --> 01:14:45,314
如果每个人都有权了解自己的事实
1371
01:14:45,397 --> 01:14:49,401
其实没必要妥协
不需要人们聚集在一起。
1372
01:14:49,485 --> 01:14:51,695
其实真的没有必要
供人们互动。
1373
01:14:52,321 --> 01:14:53,530
我们需要有...
1374
01:14:53,989 --> 01:14:58,410
对现实的一些共同理解。
否则我们就不是一个国家了。
1375
01:14:58,952 --> 01:15:02,998
所以，呃，从长远来看，解决方案是
构建更多人工智能工具
1376
01:15:03,081 --> 01:15:08,128
发现人们使用的模式
没有真人会做的服务。
1377
01:15:08,212 --> 01:15:11,840
我们允许技术人员
将此视为一个问题
1378
01:15:11,924 --> 01:15:13,884
他们有能力解决这个问题。
1379
01:15:15,135 --> 01:15:16,470
那是……那是谎言。
1380
01:15:17,679 --> 01:15:20,724
人们谈论人工智能
就好像它会知道真相一样。
1381
01:15:21,683 --> 01:15:23,685
人工智能无法解决这些问题。
1382
01:15:24,269 --> 01:15:27,189
人工智能无法解决假新闻问题。
1383
01:15:28,649 --> 01:15:31,026
谷歌没有权利说，
1384
01:15:31,109 --> 01:15:36,240
“哦，这是阴谋吗？这是事实吗？”
因为他们不知道什么是真理。
1385
01:15:36,782 --> 01:15:37,783
他们没有...
1386
01:15:37,908 --> 01:15:40,827
他们没有真相的代理人
这比点击更好。
1387
01:15:41,870 --> 01:15:45,123
如果我们对事实的看法不一致
1388
01:15:45,207 --> 01:15:47,584
或者说存在真理这样的东西，
1389
01:15:48,293 --> 01:15:49,294
我们干杯了。
1390
01:15:49,753 --> 01:15:52,089
这就是问题所在
在其他问题之下
1391
01:15:52,172 --> 01:15:54,424
因为如果我们不能就事实达成一致
1392
01:15:55,092 --> 01:15:57,803
那么我们就无法导航
摆脱我们的任何问题。
1393
01:15:57,886 --> 01:16:00,806
-[不祥的器乐演奏]
-[控制台嗡嗡声]
1394
01:16:05,435 --> 01:16:07,729
[Growth AI] 我们应该建议
地平说足球俱乐部。
1395
01:16:07,813 --> 01:16:10,566
【订婚AI】别给他看
体育更新。他不参与。
1396
01:16:11,483 --> 01:16:14,027
[AI 说话含糊不清]
1397
01:16:15,696 --> 01:16:17,698
[音乐响起]
1398
01:16:39,886 --> 01:16:42,764
[Jaron] 硅谷很多人
订阅某种理论
1399
01:16:42,848 --> 01:16:45,142
我们正在建设的
一些全球超级大脑，
1400
01:16:45,309 --> 01:16:48,020
以及我们所有的用户
只是可互换的小神经元，
1401
01:16:48,103 --> 01:16:49,563
其中没有一个是重要的。
1402
01:16:50,230 --> 01:16:53,150
并且它征服了人们
进入这个奇怪的角色
1403
01:16:53,233 --> 01:16:56,069
你就在那里，就像，
这个小计算元件
1404
01:16:56,153 --> 01:16:58,905
我们正在编程
通过我们的行为操纵
1405
01:16:58,989 --> 01:17:02,367
为了这个巨大的大脑的服务，
而你并不重要。
1406
01:17:02,451 --> 01:17:04,911
你不会得到报酬。
你不会得到认可。
1407
01:17:04,995 --> 01:17:06,455
你没有自主决定权。
1408
01:17:06,538 --> 01:17:09,416
我们会偷偷地操纵你
因为你是一个计算节点，
1409
01:17:09,499 --> 01:17:12,336
所以我们需要给你编程，因为那就是
你用计算节点做什么。
1410
01:17:14,504 --> 01:17:16,506
【反思器乐演奏】
1411
01:17:20,093 --> 01:17:21,845
哦，伙计。 [叹气]
1412
01:17:21,928 --> 01:17:25,390
[特里斯坦] 当你想到科技时
这是一个存在的威胁，
1413
01:17:25,474 --> 01:17:28,060
你知道，这是一个很大的主张，而且......
1414
01:17:29,603 --> 01:17:33,982
然后很容易在你的脑海中思考，
“好吧，我拿着电话……”
1415
01:17:35,609 --> 01:17:37,235
滚动、点击、使用它。
1416
01:17:37,319 --> 01:17:39,196
比如，存在的威胁在哪里？
1417
01:17:40,280 --> 01:17:41,615
好的，超级计算机来了。
1418
01:17:41,698 --> 01:17:43,950
屏幕的另一边，
指着我的大脑，
1419
01:17:44,409 --> 01:17:47,537
让我再看一个视频。
生存威胁在哪里？”
1420
01:17:47,621 --> 01:17:49,623
[模糊的喋喋不休]
1421
01:17:54,252 --> 01:17:57,631
[特里斯坦]这不是
关于技术
1422
01:17:57,714 --> 01:17:59,341
是存在的威胁。
1423
01:18:03,679 --> 01:18:06,264
这就是技术的能力
1424
01:18:06,348 --> 01:18:09,476
把社会上最坏的一面暴露出来……
[笑声]
1425
01:18:09,559 --> 01:18:13,522
...以及社会上最糟糕的事情
是存在的威胁。
1426
01:18:18,819 --> 01:18:20,570
如果科技创造...
1427
01:18:21,697 --> 01:18:23,115
大规模混乱，
1428
01:18:23,198 --> 01:18:24,533
愤怒、无礼、
1429
01:18:24,616 --> 01:18:26,326
彼此缺乏信任，
1430
01:18:27,452 --> 01:18:30,414
孤独、疏远、更加两极分化，
1431
01:18:30,706 --> 01:18:33,333
更多的选举黑客行为，更多的民粹主义，
1432
01:18:33,917 --> 01:18:36,962
更多的分心和无力
专注于真正的问题...
1433
01:18:37,963 --> 01:18:39,715
这就是社会。 [嘲笑]
1434
01:18:40,340 --> 01:18:46,388
而现在社会
无法自愈
1435
01:18:46,471 --> 01:18:48,515
并逐渐陷入混乱。
1436
01:18:51,977 --> 01:18:54,938
这影响到每个人，
即使您不使用这些产品。
1437
01:18:55,397 --> 01:18:57,524
这些东西已经成为
数字弗兰肯斯坦
1438
01:18:57,607 --> 01:19:00,068
正在改造世界
在他们的形象中，
1439
01:19:00,152 --> 01:19:01,862
无论是孩子的心理健康
1440
01:19:01,945 --> 01:19:04,489
或者我们的政治
以及我们的政治话语，
1441
01:19:04,573 --> 01:19:07,492
而不承担责任
for taking over the public square.
1442
01:19:07,576 --> 01:19:10,579
-So, again, it comes back to--
-And who do you think's responsible?
1443
01:19:10,662 --> 01:19:13,582
我想我们有
to have the platforms be responsible
1444
01:19:13,665 --> 01:19:15,584
因为当他们接管时
选举广告，
1445
01:19:15,667 --> 01:19:17,794
他们有责任
for protecting elections.
1446
01:19:17,878 --> 01:19:20,380
When they take over mental health of kids
或周六早上，
1447
01:19:20,464 --> 01:19:22,841
他们有责任
for protecting Saturday morning.
1448
01:19:23,592 --> 01:19:27,929
The race to keep people's attention
不会消失。
1449
01:19:28,388 --> 01:19:31,850
Our technology's gonna become
more integrated into our lives, not less.
1450
01:19:31,933 --> 01:19:34,895
人工智能将会变得更擅长预测
是什么让我们停留在屏幕上，
1451
01:19:34,978 --> 01:19:37,105
预测能力并不差
是什么让我们一直在屏幕上。
1452
01:19:38,940 --> 01:19:42,027
我……我今年62岁了，
1453
01:19:42,110 --> 01:19:44,821
每一分钟都在变老
这样的谈话越继续……
1454
01:19:44,905 --> 01:19:48,033
-[人群轻笑]
-...但是...但是我会告诉你，嗯...
1455
01:19:48,700 --> 01:19:52,370
我可能已经死了，消失了
我可能会为此感激不已
1456
01:19:52,454 --> 01:19:54,331
当这一切都实现的时候。
1457
01:19:54,790 --> 01:19:59,586
因为...因为我认为
这吓死我了。
1458
01:20:00,754 --> 01:20:03,048
你……你……吗？
你也这么看吗？
1459
01:20:03,548 --> 01:20:06,885
或者我对某种情况反应过度
我还不够了解？
1460
01:20:09,805 --> 01:20:11,598
[采访者]
你最担心什么？
1461
01:20:13,850 --> 01:20:18,480
[叹气]我想，
在...在最短的时间内...
1462
01:20:19,523 --> 01:20:20,524
内战。
1463
01:20:24,444 --> 01:20:29,908
如果我们维持现状
比如说，再过20年……
1464
01:20:31,117 --> 01:20:34,579
我们可能会毁掉我们的文明
通过故意的无知。
1465
01:20:34,663 --> 01:20:37,958
我们可能无法应对挑战
气候变化。
1466
01:20:38,041 --> 01:20:42,087
我们可能会退化
世界民主国家
1467
01:20:42,170 --> 01:20:46,132
让他们陷入某种
奇怪的专制功能障碍。
1468
01:20:46,216 --> 01:20:48,426
我们可能会毁掉全球经济。
1469
01:20:48,760 --> 01:20:52,264
呃，我们可能，嗯，无法生存。
1470
01:20:52,347 --> 01:20:54,808
你知道，
我……我确实认为它是存在主义的。
1471
01:20:54,891 --> 01:20:56,893
[直升机桨叶呼呼作响]
1472
01:21:02,524 --> 01:21:04,985
[特里斯坦]
这是最后一代人吗
1473
01:21:05,068 --> 01:21:08,488
他们会知道那是什么样的
在这个幻象发生之前？
1474
01:21:11,074 --> 01:21:14,578
比如，你如何从矩阵中醒来
当你不知道自己在矩阵中时？
1475
01:21:14,661 --> 01:21:16,538
[不祥的器乐演奏]
1476
01:21:27,382 --> 01:21:30,635
[特里斯坦] 我们所说的很多
听起来好像只是这个...
1477
01:21:31,511 --> 01:21:33,680
一面的厄运和阴郁。
1478
01:21:33,763 --> 01:21:36,808
就像，“哦，天哪，
科技正在毁灭世界
1479
01:21:36,892 --> 01:21:38,059
这正在毁掉孩子们，”
1480
01:21:38,143 --> 01:21:40,061
就像……“不。” [笑声]
1481
01:21:40,228 --> 01:21:44,065
令人困惑
因为它是同时的乌托邦......
1482
01:21:44,608 --> 01:21:45,567
和反乌托邦。
1483
01:21:45,942 --> 01:21:50,447
就像，我可以按手机上的按钮，
30秒后一辆车就出现了
1484
01:21:50,530 --> 01:21:52,699
我可以准确地到达我需要去的地方。
1485
01:21:52,782 --> 01:21:55,660
这就是魔法。太棒了。
1486
01:21:56,161 --> 01:21:57,662
当我们制作点赞按钮时，
1487
01:21:57,746 --> 01:22:01,499
我们的全部动机是，“我们可以传播
世界上有积极性和爱吗？”
1488
01:22:01,583 --> 01:22:05,003
这个想法，快进到今天，
青少年会变得抑郁
1489
01:22:05,086 --> 01:22:06,421
当他们没有足够的喜欢时
1490
01:22:06,504 --> 01:22:08,632
或者它可能会领先
政治两极分化
1491
01:22:08,715 --> 01:22:09,883
不在我们的雷达范围内。
1492
01:22:09,966 --> 01:22:12,135
我不认为这些人出发了
变得邪恶。
1493
01:22:13,511 --> 01:22:15,764
这只是商业模式
有问题。
1494
01:22:15,847 --> 01:22:20,226
你可以关闭该服务
并摧毁一切——
1495
01:22:20,310 --> 01:22:24,522
200亿美元的股东价值——
并被起诉并...
1496
01:22:24,606 --> 01:22:27,108
但实际上你不能
把精灵放回瓶子里。
1497
01:22:27,192 --> 01:22:30,403
你可以做一些调整，
但最终，
1498
01:22:30,487 --> 01:22:34,032
你必须增加收入和使用量，
季度环比。这是...
1499
01:22:34,658 --> 01:22:37,535
它变得越大，
对任何人来说，改变就越困难。
1500
01:22:38,495 --> 01:22:43,458
我看到的是一群人
那些被商业模式困住的人，
1501
01:22:43,541 --> 01:22:46,169
经济激励，
和股东压力
1502
01:22:46,252 --> 01:22:48,922
这几乎不可能
去做别的事。
1503
01:22:49,005 --> 01:22:50,924
我认为我们需要接受这没关系
1504
01:22:51,007 --> 01:22:53,176
让企业能够专注
关于赚钱。
1505
01:22:53,259 --> 01:22:55,637
有什么不好
就是没有监管、没有规则的时候，
1506
01:22:55,720 --> 01:22:56,888
并且没有竞争，
1507
01:22:56,972 --> 01:23:00,850
这些公司正在采取行动
作为事实上的政府。
1508
01:23:00,934 --> 01:23:03,353
然后他们说，
“好吧，我们可以调节自己。”
1509
01:23:03,436 --> 01:23:05,981
我的意思是，这只是一个谎言。
这太荒谬了。
1510
01:23:06,064 --> 01:23:08,650
财政激励方式运行
世界，
1511
01:23:08,733 --> 01:23:12,529
所以这个问题的任何解决方案
1512
01:23:12,612 --> 01:23:15,573
必须重新调整财政激励措施。
1513
01:23:16,074 --> 01:23:18,785
没有财政原因
让这些公司做出改变。
1514
01:23:18,868 --> 01:23:21,329
这就是为什么我认为
我们需要监管。
1515
01:23:21,413 --> 01:23:24,290
电话公司
有大量关于您的敏感数据，
1516
01:23:24,374 --> 01:23:27,544
我们有很多法律来确保
他们不会做错事。
1517
01:23:27,627 --> 01:23:31,506
我们几乎没有法律
例如，围绕数字隐私。
1518
01:23:31,589 --> 01:23:34,426
我们可以对数据收集征税
和加工
1519
01:23:34,509 --> 01:23:37,554
就像你一样，例如，
支付水费
1520
01:23:37,637 --> 01:23:39,723
通过监测水量
你使用的。
1521
01:23:39,806 --> 01:23:43,226
您对这些公司的数据资产征税
他们有。
1522
01:23:43,309 --> 01:23:44,769
这给了他们一个财政上的理由
1523
01:23:44,853 --> 01:23:47,856
不获取每一条数据
在这个星球上。
1524
01:23:47,939 --> 01:23:50,567
法律在这些事情上远远落后，
1525
01:23:50,650 --> 01:23:55,864
但我所知道的是目前的情况
存在不是为了保护用户，
1526
01:23:55,947 --> 01:23:58,700
但为了保护
的权利和特权
1527
01:23:58,783 --> 01:24:01,453
这些巨大的、
非常富有的公司。
1528
01:24:02,245 --> 01:24:05,832
我们总是要顺从最富有的人吗
最有权势的人？
1529
01:24:05,915 --> 01:24:07,417
或者我们会说，
1530
01:24:07,959 --> 01:24:12,047
“你知道，有时候
当有国家利益的时候。
1531
01:24:12,130 --> 01:24:15,592
有的时候
当人们、用户的利益，
1532
01:24:15,675 --> 01:24:17,385
实际上更重要
1533
01:24:18,011 --> 01:24:21,473
比某人的利润
谁已经是亿万富翁了？”
1534
01:24:21,556 --> 01:24:26,603
这些市场破坏了民主，
他们破坏自由，
1535
01:24:26,686 --> 01:24:28,521
他们应该被取缔。
1536
01:24:29,147 --> 01:24:31,816
这不是一个激进的提议。
1537
01:24:31,900 --> 01:24:34,194
我们还禁止其他市场。
1538
01:24:34,277 --> 01:24:36,988
我们取缔人体器官市场。
1539
01:24:37,072 --> 01:24:39,491
我们取缔人类奴隶市场。
1540
01:24:39,949 --> 01:24:44,037
因为他们有
不可避免的破坏性后果。
1541
01:24:44,537 --> 01:24:45,830
我们生活在一个世界
1542
01:24:45,914 --> 01:24:50,001
其中一棵树更有价值，
经济上，生不如死，
1543
01:24:50,085 --> 01:24:53,838
在一个有鲸鱼的世界里
死比活着更有价值。
1544
01:24:53,922 --> 01:24:56,341
只要我们的经济运转
这样
1545
01:24:56,424 --> 01:24:58,134
企业不受监管，
1546
01:24:58,218 --> 01:25:00,678
他们会继续
毁坏树木，
1547
01:25:00,762 --> 01:25:01,763
去捕杀鲸鱼，
1548
01:25:01,846 --> 01:25:06,101
开采地球，并继续
把石油从地下抽出来，
1549
01:25:06,184 --> 01:25:08,394
即使我们知道
它正在毁灭地球
1550
01:25:08,478 --> 01:25:12,148
我们知道它会离开
给子孙后代带来一个更糟糕的世界。
1551
01:25:12,232 --> 01:25:13,858
这是短期思维
1552
01:25:13,942 --> 01:25:16,694
基于这种利润宗教
不惜一切代价，
1553
01:25:16,778 --> 01:25:20,156
就好像每个公司都以某种方式神奇地
为自己的私利行事
1554
01:25:20,240 --> 01:25:21,950
将会产生最好的结果。
1555
01:25:22,033 --> 01:25:24,494
这已经影响了环境
很长一段时间。
1556
01:25:24,577 --> 01:25:27,288
有什么可怕的，
希望这是最后一根稻草
1557
01:25:27,372 --> 01:25:29,207
这会让我们醒来
作为一个文明
1558
01:25:29,290 --> 01:25:31,709
这个理论有多么有缺陷
首先
1559
01:25:31,793 --> 01:25:35,004
就是看到现在我们是树，
我们是鲸鱼。
1560
01:25:35,088 --> 01:25:37,048
我们的注意力是可以被挖掘的。
1561
01:25:37,132 --> 01:25:39,134
我们为公司带来更多利润
1562
01:25:39,217 --> 01:25:41,594
如果我们花时间
盯着屏幕，
1563
01:25:41,678 --> 01:25:42,971
盯着广告，
1564
01:25:43,054 --> 01:25:45,890
比我们花那个时间
以丰富的方式过我们的生活。
1565
01:25:45,974 --> 01:25:47,559
所以，我们正在看到结果。
1566
01:25:47,642 --> 01:25:50,687
我们看到企业使用
强大的人工智能
1567
01:25:50,770 --> 01:25:53,648
比我们聪明并弄清楚
如何吸引我们的注意力
1568
01:25:53,731 --> 01:25:55,358
朝向他们希望我们看到的事物，
1569
01:25:55,441 --> 01:25:57,277
而不是事物
最一致的
1570
01:25:57,360 --> 01:25:59,237
与我们的目标和价值观
和我们的生活。
1571
01:25:59,320 --> 01:26:01,322
[静电爆裂声]
1572
01:26:02,991 --> 01:26:04,450
[人群欢呼]
1573
01:26:05,535 --> 01:26:06,911
[史蒂夫·乔布斯]什么是计算机，
1574
01:26:06,995 --> 01:26:10,290
这是最出色的工具吗
我们曾经想出的。
1575
01:26:11,124 --> 01:26:13,877
它相当于一辆自行车
为了我们的思想。
1576
01:26:15,628 --> 01:26:20,091
人性化科技理念，
这就是硅谷的发源地。
1577
01:26:21,050 --> 01:26:25,722
而我们却忽视了它
因为这变成了一件很酷的事情，
1578
01:26:25,805 --> 01:26:27,265
而不是做正确的事。
1579
01:26:27,348 --> 01:26:29,726
互联网就像，
一个奇怪、古怪的地方。
1580
01:26:29,809 --> 01:26:31,394
这是实验性的。
1581
01:26:31,477 --> 01:26:34,731
创意的事情发生在互联网上，
当然，他们仍然这样做，
1582
01:26:34,814 --> 01:26:38,610
但是，就像，感觉就像这样，
比如，巨型购物中心。 [笑声]
1583
01:26:38,693 --> 01:26:42,071
你知道，这就像，“上帝，
一定有...
1584
01:26:42,155 --> 01:26:44,157
一定还有更多的事情要做。”
1585
01:26:44,991 --> 01:26:45,992
[男子打字]
1586
01:26:46,659 --> 01:26:48,411
[Bailey] 我想我只是一个乐观主义者。
1587
01:26:48,494 --> 01:26:52,040
因为我认为我们可以改变
社交媒体是什么样子和意味着什么。
1588
01:26:54,083 --> 01:26:56,711
[Justin] 技术的运作方式
不是物理定律。
1589
01:26:56,794 --> 01:26:57,921
它并不是一成不变的。
1590
01:26:58,004 --> 01:27:02,175
这些都是人类的选择
就像我自己一直在做的那样。
1591
01:27:02,759 --> 01:27:05,345
而人类是可以改变的
那些技术。
1592
01:27:06,971 --> 01:27:09,974
[特里斯坦] 现在的问题是
不管我们是否愿意承认
1593
01:27:10,475 --> 01:27:15,438
那些糟糕的结果即将到来
直接作为我们工作的产物。
1594
01:27:21,027 --> 01:27:24,864
正是我们建造了这些东西，
我们有责任改变它。
1595
01:27:28,409 --> 01:27:30,411
[静电噼啪声]
1596
01:27:37,085 --> 01:27:38,711
[Tristan]注意力提取模型
1597
01:27:38,795 --> 01:27:42,298
不是我们想要的对待方式
人类。
1598
01:27:45,343 --> 01:27:48,137
[扭曲] 是我一个人还是……
1599
01:27:49,722 --> 01:27:51,099
[扭曲]可怜的傻瓜。
1600
01:27:51,516 --> 01:27:53,226
[特里斯坦] 健康社会的结构
1601
01:27:53,309 --> 01:27:56,145
取决于我们下车
这种腐蚀性的商业模式。
1602
01:27:56,938 --> 01:27:58,064
[控制台蜂鸣声]
1603
01:27:58,147 --> 01:28:00,149
【轻柔的器乐演奏】
1604
01:28:01,526 --> 01:28:04,612
[控制台嗡嗡作响，安静下来]
1605
01:28:04,696 --> 01:28:08,157
[特里斯坦]我们可以要求
这些产品的设计要人性化。
1606
01:28:09,409 --> 01:28:13,121
我们可以要求不接受治疗
作为可开采资源。
1607
01:28:15,164 --> 01:28:18,334
其意图可能是：
“我们如何让世界变得更美好？”
1608
01:28:20,336 --> 01:28:21,504
[Jaron] 纵观历史，
1609
01:28:21,587 --> 01:28:23,798
每一次
有些事情变得更好了，
1610
01:28:23,881 --> 01:28:26,342
这是因为有人来了
说，
1611
01:28:26,426 --> 01:28:28,428
“这太愚蠢了。我们可以做得更好。”
[笑]
1612
01:28:29,178 --> 01:28:32,557
就像，这是批评者
推动改进。
1613
01:28:33,141 --> 01:28:35,393
这是批评家们
谁是真正的乐观主义者。
1614
01:28:37,020 --> 01:28:39,147
[叹气]你好。
1615
01:28:42,984 --> 01:28:44,277
[叹气] 嗯...
1616
01:28:46,195 --> 01:28:47,697
我的意思是，这看起来有点疯狂，对吧？
1617
01:28:47,780 --> 01:28:51,534
这就像基本方法
这东西是设计出来的...
1618
01:28:52,994 --> 01:28:55,163
没有朝着好的方向发展。
[笑声]
1619
01:28:55,246 --> 01:28:56,873
就像，整个事情。
1620
01:28:56,956 --> 01:29:00,626
所以，这听起来很疯狂
我们需要改变这一切
1621
01:29:01,169 --> 01:29:02,670
但这就是我们需要做的。
1622
01:29:04,297 --> 01:29:05,923
[采访者]你认为我们能到达那里吗？
1623
01:29:07,383 --> 01:29:08,301
我们必须。
1624
01:29:14,515 --> 01:29:16,476
【紧张的器乐演奏】
1625
01:29:20,646 --> 01:29:24,942
[采访者] 嗯，
看来你很乐观。
1626
01:29:26,194 --> 01:29:27,570
-我听起来就是这样吗？
-[工作人员大笑]
1627
01:29:27,653 --> 01:29:28,905
[采访者] 是的，我的意思是...
1628
01:29:28,988 --> 01:29:31,449
我不敢相信你一直这么说
因为我想，“真的吗？
1629
01:29:31,532 --> 01:29:33,409
我觉得我们正在走向反乌托邦。
1630
01:29:33,493 --> 01:29:35,328
我感觉我们正走在快车道上
到反乌托邦，
1631
01:29:35,411 --> 01:29:37,830
这将会发生奇迹
让我们摆脱困境。”
1632
01:29:37,914 --> 01:29:40,291
而这个奇迹当然是
集体意志。
1633
01:29:41,000 --> 01:29:44,587
我很乐观
我们要弄清楚，
1634
01:29:44,670 --> 01:29:47,048
但我认为这需要很长时间。
1635
01:29:47,131 --> 01:29:50,385
因为不是每个人都认识
这是一个问题。
1636
01:29:50,468 --> 01:29:55,890
我认为最大的失败之一
在当今的技术中
1637
01:29:55,973 --> 01:29:58,643
是真正的领导失败，
1638
01:29:58,726 --> 01:30:01,979
的人出来
并进行这些公开的对话
1639
01:30:02,063 --> 01:30:05,900
关于……不仅仅是
哪些方面进展顺利，但哪些方面不完美
1640
01:30:05,983 --> 01:30:08,194
以便有人可以进来
并建立一些新的东西。
1641
01:30:08,277 --> 01:30:10,321
归根结底，你知道，
1642
01:30:10,405 --> 01:30:14,617
这台机器不会转动
直到出现巨大的公众压力。
1643
01:30:14,700 --> 01:30:18,329
通过这些对话
并且...并表达您的意见，
1644
01:30:18,413 --> 01:30:21,082
在某些情况下
通过这些技术，
1645
01:30:21,165 --> 01:30:24,252
我们可以开始改变潮流。
我们可以开始改变谈话方式。
1646
01:30:24,335 --> 01:30:27,004
听起来可能很奇怪，
但这是我的世界。这是我的社区。
1647
01:30:27,088 --> 01:30:29,632
我不恨他们。我不想做
对 Google 或 Facebook 造成的任何损害。
1648
01:30:29,715 --> 01:30:32,885
我只是想改造他们
这样他们就不会毁灭世界。你知道？
1649
01:30:32,969 --> 01:30:35,513
我已经卸载了大量应用程序
从我的手机
1650
01:30:35,596 --> 01:30:37,723
我觉得这只是在浪费我的时间。
1651
01:30:37,807 --> 01:30:40,685
所有社交媒体应用程序，
所有新闻应用程序，
1652
01:30:40,768 --> 01:30:42,520
我已经关闭了通知
1653
01:30:42,603 --> 01:30:45,815
任何震动我腿的东西
有信息
1654
01:30:45,898 --> 01:30:48,943
这对我来说不及时也不重要
现在。
1655
01:30:49,026 --> 01:30:51,279
也是出于同样的原因
我口袋里没有饼干。
1656
01:30:51,362 --> 01:30:53,197
减少通知数量
你明白了。
1657
01:30:53,281 --> 01:30:54,449
关闭通知。
1658
01:30:54,532 --> 01:30:55,950
关闭所有通知。
1659
01:30:56,033 --> 01:30:58,536
我不再使用谷歌了
我用的是Qwant，
1660
01:30:58,619 --> 01:31:01,497
它不存储您的搜索历史记录。
1661
01:31:01,581 --> 01:31:04,459
切勿接受向您推荐的视频
在 YouTube 上。
1662
01:31:04,542 --> 01:31:07,003
总是选择。
这是另一种战斗方式。
1663
01:31:07,086 --> 01:31:12,133
Chrome 扩展有很多
删除建议。
1664
01:31:12,216 --> 01:31:15,178
[采访者]你推荐的
撤销你所做的事情。
1665
01:31:15,261 --> 01:31:16,554
[笑] 是的。
1666
01:31:16,929 --> 01:31:21,642
在分享之前，先进行事实核查，
考虑一下来源，多去谷歌一下。
1667
01:31:21,726 --> 01:31:25,104
如果它看起来像是设计好的东西
真正按下你的情感按钮，
1668
01:31:25,188 --> 01:31:26,314
就像，可能是这样。
1669
01:31:26,397 --> 01:31:29,025
本质上，您通过点击进行投票。
1670
01:31:29,108 --> 01:31:30,359
如果您点击标题诱饵，
1671
01:31:30,443 --> 01:31:33,779
你正在创造经济激励
使现有系统永久化。
1672
01:31:33,863 --> 01:31:36,949
确保您得到
许多不同类型的信息
1673
01:31:37,033 --> 01:31:37,909
在你自己的生活中。
1674
01:31:37,992 --> 01:31:40,995
我在 Twitter 上关注人们
我不同意
1675
01:31:41,078 --> 01:31:44,207
因为我想被曝光
不同的观点。
1676
01:31:44,665 --> 01:31:46,584
注意到很多人
在科技行业
1677
01:31:46,667 --> 01:31:49,045
不要给这些设备
给自己的孩子。
1678
01:31:49,128 --> 01:31:51,047
我的孩子根本不使用社交媒体。
1679
01:31:51,839 --> 01:31:53,549
[采访者] 这是规定吗
或者那是一个...
1680
01:31:53,633 --> 01:31:54,509
这是一条规则。
1681
01:31:55,092 --> 01:31:57,845
我们对此非常热衷。
1682
01:31:57,929 --> 01:31:59,222
我们……我们疯了。
1683
01:31:59,305 --> 01:32:05,603
我们不让我们的孩子有
真的任何屏幕时间。
1684
01:32:05,686 --> 01:32:08,564
我已经锻炼了
我认为三个简单的规则，嗯，
1685
01:32:08,648 --> 01:32:12,610
让家庭生活更轻松
研究证实了这一点。
1686
01:32:12,693 --> 01:32:15,571
所以，第一条规则是
所有设备离开卧室
1687
01:32:15,655 --> 01:32:17,281
每晚固定时间。
1688
01:32:17,365 --> 01:32:20,535
不管什么时间，半个小时
睡觉前，关闭所有设备。
1689
01:32:20,618 --> 01:32:24,038
第二条规则是没有社交媒体
直到高中。
1690
01:32:24,121 --> 01:32:26,374
个人认为年龄应该是16岁。
1691
01:32:26,457 --> 01:32:28,960
初中已经够难了
一直保留到高中。
1692
01:32:29,043 --> 01:32:32,964
第三条规则是
与您的孩子一起制定时间预算。
1693
01:32:33,047 --> 01:32:34,757
如果你和他们交谈并说，
1694
01:32:34,840 --> 01:32:37,927
“嗯，一天几个小时
你想在你的设备上花钱吗？
1695
01:32:38,010 --> 01:32:39,637
你觉得多少合适？”
1696
01:32:39,720 --> 01:32:41,597
他们经常会说
一些相当合理的事情。
1697
01:32:42,056 --> 01:32:44,642
好吧，听着，我非常清楚
1698
01:32:44,725 --> 01:32:48,563
我不会让每个人都得到
删除他们的社交媒体帐户，
1699
01:32:48,646 --> 01:32:50,439
但我想我可以得到一些。
1700
01:32:50,523 --> 01:32:54,402
而且只是找了几个人
删除他们的帐户很重要，
1701
01:32:54,485 --> 01:32:58,406
原因是这创造了
谈话的空间
1702
01:32:58,489 --> 01:33:00,908
因为我希望有足够的人
在社会上
1703
01:33:00,992 --> 01:33:05,204
谁不受操纵引擎的影响
进行社交对话
1704
01:33:05,288 --> 01:33:07,540
那是没有界限的
由操纵引擎。
1705
01:33:07,623 --> 01:33:10,126
所以，做吧！退出体制。
1706
01:33:10,209 --> 01:33:12,503
是的，删除。摆脱那些愚蠢的事情吧。
1707
01:33:13,546 --> 01:33:16,507
世界很美丽。
看。瞧，外面真棒。
1708
01:33:17,258 --> 01:33:18,384
[笑]
1709
01:33:21,971 --> 01:33:24,432
-[鸟儿歌唱]
-[孩子们玩耍和叫喊]